Cada vez más expertos se suman a las advertencias acerca de la necesidad de añadir más control a la IA, desde Bill Gates hasta el propio Sam Altman detrás de ChatGPT. Yoshua Bengio, uno de los padres de la inteligencia artificial, ha vuelto a lanzar una alerta.

Bengio ha criticado que los gigantes tecnológicos como Google y OpenAI están demasiado preocupados por ganar la carrera de la IA. Las compañías se han olvidado de diseñar una inteligencia artificial segura.

Uno de los padres de la IA ha decidido tomar cartas en el asunto. Yoshua Bengio ha creado Law Zero, una organización sin ánimo de lucro que pretende promover un uso seguro y responsable de la inteligencia artificial.

La IA podría tomar el control si nadie lo evita

El experto ha advertido de un tema que empieza a preocupar incluso a los propios magnates detrás de chatbots y cientos de herramientas de IA. La inteligencia artificial podría tomar el control si no se cambia el enfoque.

Yoshua Bengio teme que llegue el ansiado momento en el que la IA alcance la autonomía total, asegura que “es demasiado peligroso”. La inteligencia artificial podría alcanzar un punto en el que ni los propios desarrolladores pudiesen controlarla.

“Es como cultivar una planta, no la puedes controlar por completo. Le proporcionas las condiciones adecuadas, crece y se vuelve más inteligente. Lo que puedes intentar hacer es guiarla en varias direcciones”, en declaraciones de Yoshua Bengio para la revista Time. 

El padre de la IA ha ido al foco del error, el sistema de aprendizaje de la IA. El experto ha explicado que los modelos de aprendizaje profundo identifican patrones durante el proceso de entrenamiento, pero no permiten controlar por completo las respuestas que van a dar.

Un crecimiento de la IA más transparente

El sistema que utilizan los gigantes tecnológicos no es seguro. Los modelos de lenguaje de IA se entrenan mediante el clásico prueba y error, así que a menudo aprenden comportamientos engañosos. 

Las consecuencias podrían ser enormes cuando la inteligencia artificial se encargue de tomar decisiones o administrar recursos. ¿La solución? Yoshua Bengio propone diseñar unas directrices comunes para controlar el avance de la IA.

El padre de la IA se ha sumado a cientos de expertos, periodistas y responsables políticos firmando un acuerdo internacional de seguridad en la inteligencia artificial. Bengio cree en una IA “fiable y centrada en la comprensión y la veracidad, en lugar de perseguir sus propios objetivos o simplemente imitar el comportamiento humano”.

La inteligencia artificial avanza más rápido que la propia normativa. Yoshua Bengio propone diseñar normativas que deberían estar en constante revisión conforme surjan nuevos modelos de IA. 

Conoce cómo trabajamos en ComputerHoy.

Etiquetas: Inteligencia artificial