Expertos señalaron que es necesario abrir un debate sobre la regulación y supervisión de esta tecnología, o si los peligros son mayores que los beneficios
Con un mensaje por demás pequeños, pero potente en contenido, un grupo de 350 ejecutivos, investigadores e ingenieros expertos en inteligencia artificial (IA) alertaron sobre los riesgos que presenta esta tecnología.
Este grupo pidió abrir un debate sobre los mecanismos de regulación y supervisión ante lo que llamaron el riesgo de extinción que supone la inteligencia artificial para la humanidad.
Incluso compararon su poder destructor al de una guerra nuclear o una pandemia. La carta advierte que las presiones competitivas podrían ocasionar más peligros que beneficios.
Geoffrey Hinton, pionero de la IA, dijo:
Tal vez los modelos de computadora que tenemos ahora son en realidad mejores que el cerebro. Y si ese es el caso, entonces tal vez muy pronto serán mejores que nosotros
El riesgo no es solo que textos, imágenes y videos sean difíciles de distinguir del contenido creado por humanos, sino que a través de ellos se lleguen a perpetuar prejuicios, potenciar armas autónomas, promover información errónea y realizar ataques cibernéticos.
Hinton agregó: «Podrán manipularnos para que hagamos lo que quieran».
La carta fue firmada por los tres principales líderes del sector: Sam Altman, de OPEN AI; Demis Hassabis, de Deep Mind; y Darío Amodei, de Anthropic. Se sumaron a la misiva Hinton y Yoshua Bengio, investigadores e impulsores del movimiento moderno de la IA.
Geoffrey Hinton enfatizó:
Siendo muy inteligentes, creo que rápidamente se darán cuenta de que si tuvieran más control podrían realizar sus objetivos mucho más fácilmente
por N+