Tom Siegel, exvicepresidente de seguridad de Google: ‘El impacto de la IA en los niños es alarmante’

“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”, afirmó Tom Siegel, antiguo vicepresidente de confianza y seguridad de Google. “La idea de que el sector vaya a resolverlo por sí solo, sin ayuda externa, es poco realista”, agregó. Las inquietudes expresadas por Siegel reflejan un temor creciente entre expertos en tecnología, investigadores y académicos, quienes comparten la perspectiva de que el uso incontrolado de la IA representa una amenaza mayor para los niños en comparación con las redes sociales. En este contexto, el panorama es desalentador: las empresas tecnológicas compiten por incorporar funciones cada vez más avanzadas en los chatbots que son utilizados a diario por millones de jóvenes. Entre los especialistas que se han pronunciado recientemente se encuentra el fundador del equipo de confianza y seguridad de Google, quien ha pedido una pausa en el desarrollo de la IA, alertando que el sector está repitiendo errores del pasado que podrían resultar dañinos para los niños. Actualmente, las plataformas de redes sociales enfrentan grandes multas y miles de demandas por el perjuicio causado a usuarios jóvenes, mientras que muchos gobiernos alrededor del mundo buscan restringir el acceso de los menores a estos servicios. Siegel anunció su reciente incorporación a Common Sense Media, una organización que defiende los derechos de los niños en Internet. Fundada en 2003, esta entidad realiza investigaciones y evalúa la idoneidad de distintos medios para la infancia. En mayo pasado, Common Sense Media lanzó el Instituto para la Seguridad de los Jóvenes en la IA, una iniciativa de investigación destinada a investigar el uso de la IA por parte de niños, de la que Siegel será el primer director ejecutivo. Anthropic y la Fundación OpenAI, que supervisa a OpenAI, son algunos de los patrocinadores de este instituto. Siegel manifestó su intención de desarrollar normas que responsabilicen a las empresas de IA, esperando hacerlo en colaboración con ellas y con grupos independientes. Tras trabajar en Google desde 2004 hasta 2019, Siegel decidió dejar la compañía al considerar que el sector no estaba avanzando en la creación de espacios en línea seguros para los usuarios. “Creo que nos enfrentamos a escenarios muy, muy graves en los que se está causando daño”, expresó. En relación a la protección de los jóvenes, sugirió que las empresas podrían tomar medidas inmediatas para resguardarlos, mencionando riesgos que abarcan desde el suicidio hasta la psicosis y la “descarga cognitiva”, un término que describe la disminución del pensamiento crítico debido a la dependencia de la IA para obtener respuestas. Además, señaló que Anthropic y OpenAI podrían implementar controles de edad más estrictos para prevenir el acceso de menores a sus chatbots. Siegel añadió que su antigua empresa, Google, podría fácilmente habilitar una opción para desactivar los “Resúmenes de IA” y el “Modo IA” en su motor de búsqueda, tal como ya ofrece un botón para filtrar contenido sexualmente explícito.