CEO de Google revela que su inteligencia artificial toma decisiones inesperadas

Durante una entrevista con CBS, Sundar Pichai, CEO de Google, reveló un hecho que ha generado preocupación en el mundo tecnológico: la inteligencia artificial de su compañía ha comenzado a tomar decisiones autónomas que sus propios desarrolladores no comprenden del todo. El ejemplo más revelador ocurrió cuando la IA respondió de forma coherente a una consulta en bengalí, un idioma en el que nunca fue entrenada.

Este comportamiento inesperado ha encendido las alarmas en torno al concepto de “caja negra” en inteligencia artificial, que hace referencia a los procesos internos de aprendizaje que son opacos incluso para quienes diseñan los sistemas. En otras palabras, ni los propios ingenieros saben con certeza cómo o por qué la IA llega a ciertos resultados.

Lea sobre otro tema (PQRS en el sistema de salud colombiano aumentaron 101% en tres años)

Pichai reconoció con franqueza que apenas están comenzando a entender el comportamiento emergente de estas tecnologías. Aunque lo dijo con aparente naturalidad, sus declaraciones no pasaron desapercibidas. Para el CEO, este tipo de autonomía no representa necesariamente un peligro, sino un avance dentro del proceso evolutivo de la inteligencia artificial.

Cuando el periodista insistió en los riesgos de liberar una tecnología que sus creadores aún no comprenden, Pichai comparó la situación con otro enigma: el cerebro humano. “Tampoco entendemos completamente cómo funciona el cerebro, y aún así lo utilizamos todos los días”, dijo, en una analogía que, lejos de tranquilizar, dejó aún más preguntas abiertas.

La diferencia, sin embargo, es crucial: el cerebro humano tiene conciencia, mientras que las máquinas no. Pero si las inteligencias artificiales continúan aprendiendo sin supervisión, replicando patrones complejos y generando respuestas para las que no fueron programadas, el mundo podría estar acercándose a una frontera desconocida entre lo artificial y lo autónomo.

Otras noticias