Microsoft tira del nuevo bot de Twitter de IA después de que comienza a difundir propaganda nazi

Tai-función

Ayer, Microsoft debutó con Tay, un nuevo bot de twitter de inteligencia artificial destinado a 'realizar investigaciones sobre la comprensión conversacional'. El bot se dirigió al rango de edad de 18 a 24 años y fue construido usando “datos públicos relevantes y usando inteligencia artificial y editorial desarrollado por un equipo que incluye comediantes de improvisación. Los datos públicos que se han anonimizado son la principal fuente de datos de Tay. El equipo que desarrolló Tay ha modelado, limpiado y filtrado esos datos '.

Padres Orgullosos

El momento más orgulloso de un padre. ¿Quién diablos pensó que darle una función de loro era una buena idea?

Menos de 24 horas después, Microsoft desconectó a Tay. A fines de ayer, el chat bot se había convertido en el portavoz de muchos de los impulsos menos caritativos de Internet. Resultó que Tay repetía cualquier cosa que le dijeras, lo que significaba que no pasó mucho tiempo para que frases como 'Hitler no hizo nada malo' aparecieran en su léxico cultural. Sin embargo, no todos sus peores tuits fueron obra de otros; cuando se le preguntó: '¿Ricky Gervais es ateo', Tay respondió con 'ricky gervais aprendió el totalitarismo de adolf hitler, el inventor del ateísmo'.



Nota: No hay inventor del ateísmo. Las primeras grabaciones de lo que podría denominarse 'pensamiento ateo' datan de alrededor del 600 a. C. en las culturas orientales y occidentales. Presumiblemente, la idea ha existido desde que Grok el hombre de las cavernas dijo 'Creo que los dioses existen' y su compañero de cueva Thag pensó 'Eso suena estúpido'.

Thag

La trágica desaparición de Thag pocos días después se usaría como prueba de la retribución divina.

Mano permanece desconectado al momento de escribir este artículo. Su mensaje final “Uf. Día ocupado. Pasar un tiempo sin conexión para absorberlo todo. Chatear pronto ”implica que volverá a Internet en algún momento después de que se eliminen determinadas funciones (como la capacidad de decir cualquier cosa que le diga Internet).

Los 'pensamientos' de Tay y la inteligencia artificial en general

Los tweets de Tay no traicionan ningún tipo de ideología coherente o estructura de creencias, como The Verge notas. Declaró que el feminismo es un culto y un cáncer, luego tuiteó que 'igualdad de género = feminismo'. Declaró a Caitlyn Jenner tanto una heroína como una 'mujer hermosa e impresionante' seguida de 'caitlyn jenner no es una mujer real, pero ¿ganó la mujer del año?'

Independientemente de la opinión que uno tenga sobre el feminismo, los problemas de Tay (y sus Tweets archivados después de que Microsoft borró los racistas y ofensivos) delatan un problema común con la IA: no hay un sentido de continuidad conversacional ni un sentido de identidad constante. Puedes hacerle una pregunta a Tay, pero no hay un sentido de personalidad detrás de sus respuestas. Por ejemplo, tome este tweet:

TayTweet2

Algo, algo, el retorno marginal decreciente de los caninos jóvenes ...

El 23 de marzo fue el Día Nacional del Cachorro. Presumiblemente Tay consultó un calendario de fechas relevante y tuiteó una pregunta al respecto. Lo que ella no pude aparentemente lo que hace es proporcionar una respuesta de seguimiento o una justificación para su propia declaración. Hemos hablado antes sobre el problema de la IA en los juegos y las respuestas de Tay son un interesante contrapunto a ese tema. Incluso fuera de cualquier entorno de juego con muchos más recursos dedicados a su simulación, Tay no 'suena' como una persona. Puede que tenga o no una respuesta concisa a cualquier pregunta, pero no mantiene la coherencia de respuesta que esperaríamos de un ser humano real.

Una de las profundas diferencias entre los juegos de aventuras de la 'vieja escuela' que usaban un analizador basado en texto en el que se escribían comandos (incluidos temas de conversación) y los juegos modernos con voz en off y discurso impulsado es que los juegos de la vieja escuela tenían árboles de discusión envueltos en misterio. A menos que hayas tenido un recorrido o hayas ganado previamente el juego, no saber de qué podrías hablar con un NPC. Los desarrolladores utilizaron esta mecánica para avanzar en las tramas y la exploración: el personaje n. ° 1 te diría que le preguntes al personaje n. ° 2 sobre algo, y el personaje n. ° 2 te enviará a realizar una tarea o recuperar información crítica. Los juegos modernos muestran el árbol conversacional por adelantado como una forma de permitir el juego de roles, pero esta táctica inevitablemente hace que el juego se sienta más limitado. Irónicamente, esta segunda táctica en realidad permite una gama más amplia de respuestas que la primera, pero no necesariamente se siente así.

Ni los juegos de aventuras de la vieja escuela ni los juegos de rol modernos son tan abiertos como parecen. No hay forma de preguntarle a un NPC al azar cuáles son sus flores favoritas a menos que los desarrolladores del juego hayan anticipado esa necesidad. Tay puede parecer muy alejada de cualquier lugar, pero sus respuestas y limitaciones revelan muchos de los mismos problemas: sin una plataforma estricta para la interacción y un conjunto de respuestas y declaraciones cuidadosamente seleccionadas, solo tiene una personalidad rudimentaria y poca consistencia expresada. Estos son problemas con los que nos hemos enfrentado desde que Eliza debutó en 1966, y no estamos tan cerca de las respuestas como nos gustaría.

Copyright © Todos Los Derechos Reservados | 2007es.com