San Francisco Frontiers - Flamante Nobel de Física ve "muy preocupantes" los recientes avances de la IA

El profesor emérito de la Universidad de Princeton pidió una mejor comprensión del funcionamiento de estos sistemas para evitar que sean incontrolables.

A través de un video grabado desde Gran Bretaña para una reunión en la Universidad de Nueva Jersey, el investigador de 91 años recordó que que durante su vida ha sido testigo del surgimiento de dos tecnologías poderosas pero potencialmente peligrosas: la ingeniería biológica y la física nuclear.

"Estamos acostumbrados a tecnologías que no son solo buenas o malas, sino que pueden funcionar en ambos sentidos", afirmó.

"Como físico, me preocupa mucho algo que no está controlado, algo que no entiendo suficientemente como para saber qué límites se podrían imponer a esta tecnología", añadió.

Los sistemas modernos de IA lucen como "absolutas maravillas", pero todavía no se comprende bien cómo funcionan, lo que es "muy, muy preocupante", enfatizó.

"Es por eso que, al igual que Geoffrey Hinton (copremiado con el Nobel), abogo firmemente por una mejor comprensión", y reconoció que la ISA "desarrollaría capacidades que van más allá de las que se puedan imaginar ahora".

Con el vertiginoso ascenso de la inteligencia artificial y la feroz carrera entre empresas, algunos críticos señalan que esta tecnología está evolucionando más rápido de lo que los científicos pueden comprender.

Hopfield y el británico-canadiense Hinton, conocido como "el padrino de la IA" ganaron el martes el premio Nobel de Física por su trabajo pionero sobre las bases de la inteligencia artificial, y ambos han alertado sobre la tecnología que ayudaron a crear.

Las investigaciones de ambos sobre las redes neuronales que se remontan a la década de 1980 allanaron el camino para los sistemas de aprendizaje profundo de hoy, que prometen una revolución en la sociedad pero que hace temer por sus alcances.

El Nobel de economía cerrará la temporada de 2024 el 14 de octubre.

A.Clark--SFF