El ‘padrino’ de la IA, Geoffrey Hinton, advierte de los peligros cuando deja Google
Mire: Geoffrey Hinton, el ‘padrino’ de la IA, habla con la BBC sobre los peligros de la IA cuando deja Google
Un hombre ampliamente visto como el padrino de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo sobre los crecientes peligros de los desarrollos en el campo.
Geoffrey Hinton, de 75 años, anunció su renuncia a Google en un comunicado a The New York Times, diciendo que ahora se arrepiente de su trabajo.
Le dijo a la BBC que algunos de los peligros de los chatbots de IA son «bastante aterradores».
«En este momento no son más inteligentes que nosotros, que yo sepa. Pero creo que pronto lo serán».
La investigación pionera del Dr. Hinton en aprendizaje profundo y redes neuronales allanó el camino para los sistemas de IA actuales como ChatGPT.
Pero el psicólogo cognitivo y científico informático británico-canadiense le dijo a la BBC que el chatbot pronto podría superar el nivel de información que tiene un cerebro humano.
«En este momento lo que estamos viendo son cosas como GPT-4 que eclipsa a una persona en la cantidad de conocimiento general que tiene y la eclipsa por mucho. En términos de razonamiento, no es tan bueno, pero ya lo es. Simple razonamiento.
«Y dada la tasa de progreso, esperamos que las cosas mejoren con bastante rapidez. Así que tenemos que preocuparnos por eso».
En el artículo del New York Times, el Dr. Hinton se refirió a los «malos actores» que intentarían usar la IA para «cosas malas».
Cuando la BBC le pidió que explicara esto, respondió: «Es el peor de los casos, una especie de pesadilla.
«Te puedes imaginar, por ejemplo, un mal actor como [Russian President Vladimir] Putin decidió dar a los robots la capacidad de crear sus propios objetivos secundarios».
El científico advirtió que esto eventualmente podría «crear objetivos secundarios como ‘Necesito tener más poder'».
Y agregó: «Llegué a la conclusión de que el tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos.
“Somos sistemas biológicos y ellos son sistemas digitales, y la gran diferencia es que con los sistemas digitales tienes muchas copias del mismo conjunto de pesos, el mismo modelo del mundo.
«Y todas estas copias pueden aprender por separado pero compartir su conocimiento al instante. Entonces es como si tuvieras 10,000 personas y cada vez que una persona aprende algo, todos lo saben automáticamente. Y así es como estos chatbots pueden saber más que nadie».
El Dr. Hinton también dijo que hubo varias otras razones para dejar su trabajo.
«La primera es que tengo 75 años, así que es hora de jubilarme. La segunda es que realmente quiero hablar bien de Google. Y son más creíbles si no trabajo para ellos. Google».
Destacó que no quería criticar a Google y que el gigante tecnológico había sido «muy responsable».
En un comunicado, el científico jefe de Google, Jeff Dean, dijo: «Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente».
Ver: ¿Qué es la Inteligencia Artificial?
«Jugador orgulloso. Gurú del café. Alcoholico galardonado. Entusiasta de la cerveza. Estudiante. Aficionado a los zombis. Lector. Especialista en música. Aficionado a la comida».
