Introducción
Expertos en tecnología advierten sobre los riesgos crecientes que la inteligencia artificial (IA) representa para la seguridad y el bienestar digital de los niños. A medida que las empresas tecnológicas avanzan rápidamente en el desarrollo de funciones de IA, los niños tienen acceso a estas tecnologías sin restricciones efectivas, lo que plantea serias preocupaciones.
El impacto de la IA en los niños
Tom Siegel, ex vicepresidente de Google y pionero en la creación del equipo de confianza y seguridad de la compañía, expresó su preocupación sobre el impacto de la IA en los niños. Según Siegel, la situación es realmente terrible y la idea de que la industria tecnológica pueda resolver este problema por sí sola es poco realista.
Siegel y otros expertos en tecnología creen que el uso irrestricto de la IA representa una amenaza mayor para los niños que las redes sociales. Esta preocupación surge en un momento en que millones de jóvenes ya utilizan chatbots a diario.
Repetición de errores pasados
Siegel advierte que la industria tecnológica está repitiendo los mismos errores que cometió durante la era de las redes sociales. Estos errores han tenido un costo significativo, con empresas de redes sociales enfrentando miles de demandas y pagando enormes sumas por dañar a los usuarios jóvenes.
Muchos gobiernos están trabajando para restringir el acceso de los menores a plataformas como Instagram, TikTok o Facebook. Sin embargo, con la IA, el ciclo amenaza con repetirse.
El Instituto para la Seguridad de los Jóvenes en la IA
Siegel se ha unido a Common Sense Media, una organización que defiende los derechos de los niños en Internet. Esta organización sin fines de lucro, fundada en 2003, lleva a cabo investigaciones para evaluar la idoneidad de diversos medios de comunicación para los niños.
En mayo, Common Sense Media lanzó el Instituto para la Seguridad de los Jóvenes en la IA, una organización de investigación destinada a evaluar el uso que hacen los niños de la inteligencia artificial. Siegel será su primer director ejecutivo.
Riesgos específicos de la IA para los niños
Siegel advierte que nos enfrentamos a escenarios muy graves en los que se está causando daño. Los riesgos que menciona van desde el suicidio y la psicosis hasta problemas más silenciosos pero igualmente graves, como la “descarga cognitiva”. Este término describe la disminución del pensamiento crítico causada por recurrir constantemente a la IA para responder preguntas.
Medidas propuestas para proteger a los niños
Siegel sugiere que las empresas podrían tomar medidas inmediatas para proteger mejor a los jóvenes. Propone la implementación de verificaciones de edad más estrictas para impedir que los menores accedan a los chatbots sin supervisión adulta. También sugiere que Google podría implementar una opción para desactivar los “Resúmenes de IA” y el “Modo IA” en su motor de búsqueda.
Conclusión
La pregunta que queda es si las empresas tecnológicas actuarán antes de enfrentar las mismas demandas y regulaciones que hoy enfrentan las redes sociales, o si esperarán hasta que el daño ya esté hecho. La advertencia de Siegel es clara: la IA sin control representa un riesgo significativo para la seguridad y el bienestar de los niños.
