MIT crea un psicópata impulsado por inteligencia artificial llamado 'Norman'

Hasta ahora, los investigadores de inteligencia artificial han intentado crear algoritmos completos que puedan ser útiles para la humanidad. Sin embargo, un equipo del MIT ha emprendido un proyecto para hacer exactamente lo contrario. Investigadores del MIT Media Lab han entrenado a una IA para que sea un psicópata al exponerla únicamente a imágenes de violencia y muerte. Es como una Skinner Box de terror para la IA, que el equipo ha llamado 'Norman' en honor al psicópata de la película Norman Bates. Como era de esperar, Norman no es un muy bien adaptado AI.

Norman comenzó con el mismo potencial que cualquier otra red neuronal: a medida que la alimenta con datos, puede discernir patrones similares que encuentra. Las empresas de tecnología han utilizado la inteligencia artificial para ayudar a buscar fotos y crear síntesis de voz más creíbles, entre muchas otras aplicaciones. Estas IA completas se diseñaron con un propósito específico en mente. Norman nació para ser un psicópata.

El equipo del MIT alimentó a Norman con una dieta constante de datos extraídos de horribles subreddits que existen para compartir fotos de muerte y destrucción. Debido a preocupaciones éticas, el equipo no manejó ninguna foto de personas muriendo. Norman solo obtuvo leyendas de imágenes del subreddit que coincidían con las manchas de tinta, y esto es lo que formó la base de su inquietante personalidad de IA.



Después del entrenamiento, a Norman y una IA 'regular' se les mostró una serie de manchas de tinta. Los psicólogos a veces utilizan estas 'pruebas de Rorschach' para evaluar el estado mental de un paciente. Norman y la IA normal son esencialmente bots de subtítulos de imágenes, que es una aplicación popular de aprendizaje profundo para IA. La IA normal vio cosas como un avión, flores y un pájaro pequeño. Norman vio gente muriendo por heridas de bala, saltando de edificios, etc.

Norman no se corrompió para hacer ningún tipo de punto sobre la psicología humana en Internet: una red neuronal es una pizarra en blanco. No tiene ningún deseo innato como un humano. ¿Qué Norman hace abordar es el peligro de que la inteligencia artificial se vuelva peligrosamente sesgada. Con la IA, obtienes lo que pones, por lo que es importante que estas plataformas estén capacitadas para evitar sesgos y, preferiblemente, no se dejen navegar por los rincones más oscuros de Reddit durante largos períodos de tiempo.

El equipo ahora quiere ver si puede arreglar a Norman. Puede realizar la misma prueba de Rorschach y agregar sus propios subtítulos. El equipo utilizará estos datos para ajustar el modelo de Norman y ver si comienza a ver menos asesinatos. Solo podemos esperar.

Copyright © Todos Los Derechos Reservados | 2007es.com