Por qué Geoffrey Hinton decidió que tenía que «hablar» sobre la tecnología
Nueva York (CNN) Geoffrey Hinton, también conocido como «Padrino de la IA«, decidió que tenía que «exponer» la tecnología que ayudó a desarrollar después de estar preocupado por su inteligencia, le dijo a CNN el martes.
“Solo soy un científico que de repente se dio cuenta de que estas cosas se estaban volviendo más inteligentes que nosotros”, dijo Hinton a Jake Tapper de CNN en una entrevista el martes. «Quiero denunciar y decir que deberíamos estar seriamente preocupados sobre cómo vamos a evitar que estas cosas se apoderen de nosotros».
El trabajo pionero de Hinton en redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos productos en la actualidad. Llegó a los titulares el lunes por dejar su trabajo en Google, donde había trabajado durante una década, para hablar abiertamente sobre sus crecientes preocupaciones sobre la tecnología.
En una entrevista el lunes con el New York Times, quien fue el primero en informar su decisión, Hinton dijo que estaba preocupado por el potencial de la IA para eliminar empleos y crear un mundo en el que muchos «ya no podrán saber lo que es verdad». También señaló el impresionante ritmo de avance, mucho más allá de lo que él y otros habían anticipado.
“Si se vuelve mucho más inteligente que nosotros, será muy bueno manipulando porque lo habrá aprendido de nosotros, y hay muy pocos ejemplos de algo más inteligente controlado por algo menos inteligente”, dijo Hinton a Tapper. Martes.
«Él sabe cómo programar, por lo que encontrará formas de sortear las restricciones que le imponemos. Encontrará formas de manipular a las personas para que hagan lo que él quiere».
Hinton no es el único líder tecnológico que expresa preocupaciones sobre la IA. Varios miembros de la comunidad han firmado un carta de marcha pidiendo a los laboratorios de inteligencia artificial que dejen de entrenar los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».
La carta, publicado por el Future of Life Institute, una organización sin fines de lucro soportado por Elon Musk, llegó solo dos semanas después de OpenAI anuncio GPT-4, una versión aún más poderosa de la tecnología que impulsa el chatbot viral ChatGPT. En las primeras pruebas y demostraciones de la empresa, se utilizó GPT-4 para escribir trajes, realizar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.
El cofundador de Apple, Steve Wozniak, quien fue uno de los firmantes de la carta, apareció en «CNN This Morning» el martes, haciéndose eco de las preocupaciones sobre su potencial para difundir información errónea.
“Será mucho más fácil engañar a quienes quieren engañarte”, dijo Wozniak a CNN. «Realmente no estamos haciendo ningún cambio en ese sentido, solo estamos asumiendo que las leyes que tenemos se encargarán de eso».
Wozniak también dijo que es probable que se necesite «algún tipo» de regulación.
Hinton, por su parte, le dijo a CNN que no había firmado la petición. «No creo que podamos detener el progreso», dijo. “No firmé la petición diciendo que deberíamos dejar de trabajar en IA porque si la gente en Estados Unidos se detiene, la gente en China no lo hará”.
Pero admitió no tener una respuesta clara sobre qué hacer en su lugar.
«No me queda claro si podemos solucionar este problema», dijo Hinton a Tapper. «Creo que deberíamos hacer un gran esfuerzo para pensar en formas de resolver el problema. No tengo una solución en este momento».
«Jugador orgulloso. Gurú del café. Alcoholico galardonado. Entusiasta de la cerveza. Estudiante. Aficionado a los zombis. Lector. Especialista en música. Aficionado a la comida».
