Meta (Facebook e Instagram) Enfrenta Acciones Legales por Uso de IA en Plataformas

Un grupo de 34 estados de Estados Unidos ha presentado una demanda contra Meta, la empresa matriz de Facebook e Instagram, alegando que la compañía manipula indebidamente a los menores a través del uso de algoritmos en sus plataformas. La demanda surge en medio rápido de avances en inteligencia artificial (IA) tanto en texto como en generación de contenido.

Acusaciones y Demandas:

• Conductas Adictivas: Los estados alegan que Meta utiliza algoritmos para fomentar conductas adictivas, particularmente entre los niños, a través de funciones integradas como el botón de «Me gusta».
• Bienestar Mental: Se acusa a Meta de influir negativamente en el bienestar mental de los niños debido a su uso de IA en las plataformas.
• Compensaciones por Daños: Los estados buscan restituciones y compensaciones por daños, con cifras que oscilan entre USD 5,000 y USD 25,000 por presunta ocurrencia.

Reacción de Meta y Preocupaciones de la IWF:

• Respuesta de Meta: A pesar de las acciones legales, Meta ha afirmado que ha utilizado la IA para abordar problemas de confianza y seguridad en sus plataformas.
• Preocupación Global: La Internet Watch Foundation (IWF) del Reino Unido expresó preocupación por el aumento alarmante de contenido de abuso sexual infantil (CSAM) generado por IA en la web oscura.
• Llamado a la Cooperación Global: La IWF insta a la cooperación global para combatir la manipulación sexual de niños, sugiriendo una estrategia que incluye la adaptación de la legislación, formación mejorada para las fuerzas del orden y regulación de los modelos de IA.

Enfoque de la IWF en Desarrolladores de IA:

• Prohibición de Generación de Contenidos: La IWF aconseja prohibir que la IA genere contenido de abuso infantil y excluir a los modelos asociados.
• Eliminación del Material: Se enfoca en eliminar dicho material de los modelos de IA y trabajar en la prevención de la proliferación de contenido perturbador.

La proliferación de IA ha llevado a la creación de réplicas humanas realistas, lo que plantea preocupaciones sobre su uso ético y las implicaciones para la seguridad de los usuarios, especialmente los niños.