‘El padrino de la IA’ abandona Google y advierte sobre el peligro que se avecina NYT
Durante medio siglo, Geoffrey Hinton cultivó la tecnología central de los chatbots como ChatGPT. Ahora le preocupa que cause daños graves.
Este artículo del NYT me hizo pensar en la rápida evolución del pensamiento sobre la IA, lo cual es comprensible, supongo, dada la rápida aparición de los chatbots inteligentes y su enfoque.
Sigo comprometido con la visión a largo plazo de la IA (más de 20 años). Esto se agrega a la Serie AI.
Autor del artículo del NYT:
Por Cadé Metz
informó esta historia en Toronto. Publicado el 1 de mayo de 2023 – Actualizado el 4 de mayo de 2023
Cade informa sobre la salida de Hinton de Google para poder ser transparente sobre su cambio de visión sobre la IA.
Geoffrey Hinton fue un pionero de la inteligencia artificial. En 2012, el Dr. Hinton y dos de sus estudiantes de posgrado en la Universidad de Toronto crearon una tecnología que se convirtió en la base intelectual de los sistemas de IA…
El lunes, sin embargo, se unió oficialmente a un creciente coro de críticos que dicen que esas empresas están corriendo hacia el peligro con su agresiva campaña para crear productos basados en inteligencia artificial generativa, la tecnología que impulsa los chatbots populares como ChatGPT.
El Dr. Hinton dijo que renunció a su trabajo en Google, donde trabajó durante más de una década y se convirtió en una de las voces más respetadas en el campo, por lo que puede hablar libremente sobre los riesgos de la IA. Una parte de él, dice. dijo, ahora se arrepiente del trabajo de su vida.
Baso mi comentario en el artículo del NYT y en escuchar el podcast del NYT esta mañana. Durante la entrevista, Hinton le contó a Cade sobre los riesgos que ve y que yo clasifico de la siguiente manera:
- Desinformación que podría moldear la visión del mundo y de la realidad de la persona promedio. Él basa este riesgo en el potencial de manipulación de palabras, imágenes (incluso – Hinton usó la palabra incluso) videos.
- Empleo – empleos reemplazados por IA
- Riesgo para la humanidad – Hinton habla de súper guerreros, incluidos robots sostenidos por IA. Habla de la posibilidad de que los países agresivos se preocupen mucho menos por los ataques masivos contra sus enemigos utilizando IA, con el consiguiente bajo riesgo para los soldados atacantes y la posibilidad de ataques mucho más letales y amplios de los que un pequeño país beligerante podría reunir cuando confía en soldados humanos.
Pero a muchos expertos de la industria les corroe el temor de que estén liberando algo peligroso en la naturaleza. La IA generativa ya puede ser una herramienta para la desinformación. Pronto, podría ser un riesgo para los puestos de trabajo. En algún momento, dicen los mayores preocupados de la tecnología, podría ser un riesgo para la humanidad.
“Es difícil ver cómo se puede evitar que los malos actores lo utilicen para cosas malas”, dijo el Dr. Hinton.
Dos grupos han emitido cartas abiertas proponiendo moratorias o paradas del desarrollo de la IA antes de que se pueda implementar una regulación. Mi observación sobre estas cartas inútiles es que representan el equivalente a un inglés que expresara sus objeciones a las máquinas de vapor debido a los riesgos para el bienestar y el sustento de los caballos en 1698.
Thomas Savery comenzó todo con su bomba de vapor en 1698. Le siguió la primera máquina de vapor real de Thomas Newcomen en 1711.
Carta abierta #1 Sitio sobre el futuro de la vida: Elon Musk y otros piden una pausa en la IA, citando “profundos riesgos para la sociedad”
Más de 1.000 líderes tecnológicos, investigadores y otros firmaron una carta abierta instando a una moratoria sobre el desarrollo de los sistemas de inteligencia artificial más potentes.
Carta abierta #2 Asociación para el Avance de la Inteligencia Artificial (AAAI)
Garantizar que la IA se utilice para obtener el máximo beneficio requerirá una amplia participación. Apoyamos firmemente un enfoque constructivo, colaborativo y científico que tenga como objetivo mejorar nuestra comprensión y construir un rico sistema de colaboraciones entre las partes interesadas de la IA para el desarrollo responsable y el uso de tecnologías de IA. Las organizaciones de la sociedad civil y sus miembros deberían opinar sobre las influencias y aspiraciones de la sociedad. Los gobiernos y las corporaciones también pueden desempeñar papeles importantes. Por ejemplo, los gobiernos deberían garantizar que los científicos tengan recursos suficientes para realizar investigaciones en modelos a gran escala, apoyar la investigación sociotécnica interdisciplinaria sobre la IA y sus influencias más amplias, fomentar las mejores prácticas de evaluación de riesgos, regular de manera inteligente las aplicaciones y frustrar los usos delictivos de la IA.
Relevancia para el debate sobre la IA:
- Los riesgos de Hinton y las razones dadas para su cambio de opinión y su salida de Google son suyos y sólo suyos. Para mí, se leen como débiles y muestran una falta de profundidad y contexto analítico para alguien llamado el “Padrino”.
- No veo evidencia de las décadas de visión necesarias para ver todos los impactos y algunos de los cuales he comenzado a exponer aquí.
- Cade se refiere a que Hinton siempre vivió en el futuro. Como alguien que cree que vive en el futuro de sus propios campos, veo poca evidencia de esta caracterización del último posicionamiento de Hinton.
- Leí que hay más en la historia de Hinton.
- Las cartas abiertas están repletas de intereses creados. Una vez más, la opinión es suya y sólo de ellos, pero veo personas que se beneficiarán de la IA y prepararán el escenario.
- Los nombres de nuevos participantes que aún no han aparecido o no han sido identificados podrían ser el riesgo que más temen los firmantes de las cartas.
Etiquetas #A! #Serie-AI #Debate-AI
Comments
