‘El padrino de la IA’ deja Google y advierte de los peligros

APRENDIZAJE AUTOMÁTICO:
AI ‘saca el trabajo duro’, pero ‘podría quitar más que eso’ y podría difundir información errónea, haciendo que la verdad sea difícil de saber, dijo.

Un científico informático a menudo apodado «el padrino de la inteligencia artificial» (IA) renunció a su trabajo en Google para hablar sobre los peligros de la tecnología, informaron el lunes medios estadounidenses.

Geoffrey Hinton, quien creó la tecnología fundamental para los sistemas de IA, le dijo al New York Times que los avances en el campo plantean «profundos riesgos para la sociedad y la humanidad».

‘ES ATERRADOR’

“Mira cómo era hace cinco años y cómo está ahora”, dijo en el artículo.

“Toma la diferencia y distribúyela hacia adelante. Da miedo”, dijo.

Hinton dijo que la competencia entre gigantes tecnológicos está empujando a las empresas a lanzar nuevas tecnologías de inteligencia artificial a velocidades peligrosas, arriesgando empleos y difundiendo información falsa.

«Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas», dijo a The Times.

El año pasado, Google y OpenAI, la empresa emergente detrás del popular chatbot de IA ChatGPT, comenzaron a crear sistemas que usaban cantidades de datos mucho mayores que antes.

Hinton le dijo a The Times que cree que estos sistemas eclipsan la inteligencia humana de alguna manera debido a la cantidad de datos que analizan.

«Tal vez lo que sucede en estos sistemas es en realidad mucho mejor que lo que sucede en el cerebro», dijo al periódico.

Si bien la IA se ha utilizado para apoyar a los trabajadores humanos, la rápida expansión de los chatbots como ChatGPT podría poner en riesgo los puestos de trabajo.

La IA «elimina el trabajo duro», pero «podría eliminar más que eso», dijo a The Times.

DESINFORMACIÓN

El investigador también habló sobre la posible propagación de información errónea creada por IA y dijo que la persona promedio «ya no podría saber qué es verdad».

Hinton notificó a Google de su renuncia el mes pasado, informó The Times.

El científico principal de Google AI, Jeff Dean, agradeció a Hinton en un comunicado a los medios estadounidenses.

«Como una de las primeras empresas en publicar los Principios de IA, seguimos comprometidos con un enfoque responsable de la IA», agregó el comunicado. «Estamos continuamente aprendiendo a comprender los riesgos emergentes, mientras innovamos audazmente».

En marzo, el multimillonario tecnológico Elon Musk y una serie de expertos firmaron una carta abierta en la que pedían una pausa en el desarrollo de los sistemas de inteligencia artificial para dar tiempo a garantizar que sean seguros.

Hinton no firmó esa carta en ese momento, pero le dijo al New York Times que los científicos no deberían «escalar más hasta que descubran si pueden controlarlo».