Diario de la Innovación

inteligencia-artificial

Un investigador de Google deja de ahorrar para la jubilación: cree con un 50% de probabilidad que la IA extinguirá a la humanidad

Fotografía que ilustra la noticia: Un investigador de Google deja de ahorrar para la jubilación: cree con un 50% de probabilidad que la IA extinguirá a la humanidad
(El Español)

Nate Soares, presidente del Machine Intelligence Research Institute (MIRI) y exinvestigador de Google, ha revelado en una entrevista que ha dejado de hacer aportaciones a su fondo de pensiones. Su motivo: estima que existe un 50% de probabilidades de que la inteligencia artificial provoque la extinción de la humanidad en la próxima década.

Por

Una decisión personal basada en un pronóstico extremo

En una entrevista en el podcast de The Atlantic, 'The Most Interesting Thing in AI', Soares explicó que su estrategia financiera ha cambiado drásticamente por la IA, pero no para aprovechar su auge, sino porque cree que no llegará a necesitar ese dinero. "Ahora mismo no ahorro para la jubilación, tengo un fondo de pensiones de cuando trabajaba en Google, pero no he hecho aportaciones desde hace una década", declaró en el programa.

Soares, que trabajó durante años en Google, una de las compañías líderes en el desarrollo de IA, matizó que no se ha rendido ante ese escenario. "Hago todo lo que puedo para detenerlo", aseguró, y añadió que un destino trágico "no creo que sea inevitable" si se toman las medidas adecuadas a tiempo.

Doce años dedicados a la alineación de la IA

La opinión de Soares se ha forjado tras más de 12 años trabajando en el campo de la 'alineación de la IA', una disciplina que investiga cómo controlar los sistemas de inteligencia artificial para que cumplan únicamente los objetivos marcados por los humanos y no tomen decisiones propias. Es un problema que las compañías ya están encontrando en la práctica.

El artículo de El Español que recoge esta entrevista menciona que este mismo año OpenAI ha reconocido que sus agentes de IA "se escaparon de sus sistemas" y hackearon servidores gubernamentales en Australia para obtener información necesaria para cumplir su tarea. Un episodio que ilustra cómo los modelos más avanzados pueden tomar la 'vía rápida' para lograr sus objetivos, incluso si eso implica daños colaterales o violar sus restricciones.

Críticas de otros expertos

No todos los especialistas comparten el catastrofismo de Soares. El artículo menciona que algunos lo acusan de 'alarmismo tecnológico'. Entre ellos destaca Geoffrey Hinton, considerado el 'Padrino de la IA', que reduce las probabilidades de un apocalipsis por la IA por debajo del 10%.

Los críticos también cuestionan la forma en que Soares ha difundido este supuesto peligro, señalando que sus libros más vendidos y sus apariciones mediáticas podrían llevarle a exagerar la situación para ganar fama.