Stephen Hawking: la IA podría ser el peor evento en la historia de la civilización

Brain-Machine-2

Stephen Hawking ha hablado sobre la necesidad de ser extremadamente cuidadoso al desarrollar o experimentar con inteligencia artificial en el pasado y el famoso físico pronunció recientemente parte de su lenguaje más duro hasta ahora. Hawking habló recientemente en una conferencia de tecnología en Portugal, donde le dijo a la audiencia que mantener el control de la inteligencia artificial es absolutamente primordial para mantener viva a la raza humana.

'Las computadoras pueden, en teoría, emular la inteligencia humana y superarla', Hawking dijo. “El éxito en la creación de una IA eficaz podría ser el mayor evento en la historia de nuestra civilización. O lo peor. Simplemente no lo sabemos. Por lo tanto, no podemos saber si la IA nos ayudará infinitamente, o si nos ignorará y dejará de lado, o posiblemente nos destruirá '.

'La IA podría ser el peor evento en la historia de nuestra civilización', continuó Hawking. “Trae peligros, como poderosas armas autónomas, o nuevas formas para que unos pocos opriman a la mayoría. Podría traer grandes trastornos a nuestra economía '.



Elon Musk también se ha pronunciado sobre los peligros de la IA y la necesidad de evaluarla muy en serio.

Las personas altamente inteligentes han tenido profundas dudas sobre la tecnología desde, literalmente, antes de que la tecnología fuera una palabra. El mismo Sócrates se pronunció contra la invención de la escritura al contar la historia de una conversación entre Theuth, el inventor egipcio de las letras, y lo que el dios-rey de Egipto, Ammón, supuestamente le dijo:

(E) su descubrimiento de los suyos creará olvidos en las almas de los aprendices, porque no usarán sus recuerdos; confiarán en los caracteres externos escritos y no se acordarán de sí mismos. Lo específico que has descubierto no es una ayuda para la memoria, sino para la reminiscencia, y no les das a tus discípulos la verdad, sino sólo la apariencia de la verdad; serán oidores de muchas cosas y no habrán aprendido nada; parecerán omniscientes y generalmente no sabrán nada; serán una compañía tediosa, teniendo la demostración de sabiduría sin la realidad.

El primer impulso, al leer una profecía tan dolorosa, es reír. Pero Sócrates tenía razón. La escritura fue fundamental para nuestro avance como especie, pero también reformuló la cultura. La invención de la escritura permitió a filósofos y contadores por igual crear recuentos y grabaciones duraderas de sus obras, ya sea que eso significara una lista detallada de los rendimientos de los cultivos a lo largo del río Nilo o argumentos filosóficos que todavía discutimos hoy.

Es posible que Sócrates se haya perdido las mejoras que crearía la escritura, pero no se equivocó en cuanto a transformar la civilización. La invención de los libros ayudó a la difusión del conocimiento al facilitar mucho el transporte de información en un solo tomo en comparación con una gran cantidad de pergaminos. La imprenta, por supuesto, revolucionó la educación y llevó los libros a las masas (eventualmente) de una manera que ni los visionarios de mayor alcance de la antigüedad tardía podrían haber imaginado. Y estas transformaciones continúan; ya se han realizado estudios sobre cómo la fuente de conocimiento siempre presente de Internet está cambiando la forma en que recordamos las cosas.

El temor de Hawking de que la IA pueda volverse fácilmente contra quienes la crean no es infundado. Mucha gente tiene una visión de la inteligencia artificial y la infalibilidad de las computadoras que es descaradamente en desacuerdo con la realidad del mundo real de estos dispositivos. La medicina moderna se ha vuelto bastante buena para solucionar problemas físicos dentro del cuerpo, pero los tratamientos de salud mental son mucho más difíciles y hemos estado tratando de solucionar los problemas de salud mental de las personas durante miles de años. Hasta el siglo XX, nuestros 'mejores' tratamientos incluían cirugía cerebral amateur, horribles comas de insulina y baños forzados alternos en agua helada y hirviendo. Ahora, imagínese tratando de convencer a una IA de que 'se caiga de la cornisa' cuando se siente suicida y tiene códigos de lanzamiento nuclear en su bolsillo trasero.

Dicho esto, Hawking sigue siendo optimista sobre la posibilidad de la tecnología; al mismo tiempo, está muy preocupado por lo que podría suceder si subestimamos el potencial de daño. No es un tema nuevo, ha estado discutiendo el concepto durante varios años (como se vio en la entrevista con John Oliver anterior, aunque tocan varios temas). No espero que la verdadera IA ocurra en mi propia vida, pero creo que Hawking tiene razón al advertir sobre los riesgos potenciales. Esta es una idea que ignoramos bajo nuestro propio riesgo.

Copyright © Todos Los Derechos Reservados | 2007es.com