Google DeepMind, compañía de investigación y desarrollo de inteligencia artificial (IA), publicó el jueves de la semana pasada un documento de 145 páginas que contiene una escalofriante predicción sobre el futuro de esta tecnología.
Concretamente, pronostica que la inteligencia artificial general (IAG) podría llegar en 2030 y provocar «daños graves». Aunque no especifica de qué se tratan esos perjuicios, señala que podría conllevar «riesgos existenciales» que «destruyan permanentemente a la humanidad».
«[Anticipamos] el desarrollo de una IAG excepcional antes del final de la década actual», escribieron los autores. «Es un sistema que tiene una capacidad que iguala al menos el percentil 99 de adultos capacitados en una amplia gama de tareas no físicas, incluidas tareas metacognitivas como el aprendizaje de nuevas habilidades», añadieron.
Asimismo, consideran plausible que los paradigmas actuales permitan una «mejora recursiva de la IA», esto es, un bucle de retroalimentación positiva en el que la IA lleva a cabo su propia investigación para crear sistemas más sofisticados, lo cual podría ser muy peligroso.
En consecuencia, el documento propone y defiende el desarrollo de técnicas para bloquear el acceso de los malos agentes a hipotéticas IAG, mejorar la comprensión de las acciones de los sistemas de IA y «endurecer» los entornos en los que la esta tecnología puede actuar.
«La naturaleza transformadora de la inteligencia artificial puede reportar tanto beneficios increíbles como graves perjuicios», continúa. «Como resultado, para construir IAG de manera responsable, es fundamental que los desarrolladores de IA de frontera planifiquen proactivamente para mitigar los graves daños», concluye.
Source: Crealo