Un grupo de 34 estados de Estados Unidos ha presentado una demanda contra Meta, la empresa matriz de Facebook e Instagram, alegando que la compañía manipula indebidamente a los menores a través del uso de algoritmos en sus plataformas. La demanda surge en medio rápido de avances en inteligencia artificial (IA) tanto en texto como en generación de contenido.
Acusaciones y Demandas:
- Conductas Adictivas: Los estados alegan que Meta utiliza algoritmos para fomentar conductas adictivas, particularmente entre los niños, a través de funciones integradas como el botón de «Me gusta».
- Bienestar Mental: Se acusa a Meta de influir negativamente en el bienestar mental de los niños debido a su uso de IA en las plataformas.
- Compensaciones por Daños: Los estados buscan restituciones y compensaciones por daños, con cifras que oscilan entre USD 5,000 y USD 25,000 por presunta ocurrencia.
Reacción de Meta y Preocupaciones de la IWF:
- Respuesta de Meta: A pesar de las acciones legales, Meta ha afirmado que ha utilizado la IA para abordar problemas de confianza y seguridad en sus plataformas.
- Preocupación Global: La Internet Watch Foundation (IWF) del Reino Unido expresó preocupación por el aumento alarmante de contenido de abuso sexual infantil (CSAM) generado por IA en la web oscura.
- Llamado a la Cooperación Global: La IWF insta a la cooperación global para combatir la manipulación sexual de niños, sugiriendo una estrategia que incluye la adaptación de la legislación, formación mejorada para las fuerzas del orden y regulación de los modelos de IA.
Enfoque de la IWF en Desarrolladores de IA:
- Prohibición de Generación de Contenidos: La IWF aconseja prohibir que la IA genere contenido de abuso infantil y excluir a los modelos asociados.
- Eliminación del Material: Se enfoca en eliminar dicho material de los modelos de IA y trabajar en la prevención de la proliferación de contenido perturbador.
La proliferación de IA ha llevado a la creación de réplicas humanas realistas, lo que plantea preocupaciones sobre su uso ético y las implicaciones para la seguridad de los usuarios, especialmente los niños.
