Meta: Nuevo Detector De Imágenes Con IA Para Combatir El Contenido Falso
- hace 5 meses
Meta, la empresa matriz de Facebook e Instagram, planea implementar una tecnología para detectar y etiquetar imágenes creadas por IA. Esta medida, que ya se aplica a las imágenes generadas por los propios sistemas de Meta, pretende combatir el contenido falso generado por IA en sus plataformas.
Aunque Meta ha descrito esta tecnología como puntera, un experto en IA ha declarado a la BBC que este tipo de herramientas son "fácilmente eludibles".
Meta ha reconocido que su herramienta no funcionará para audio y vídeo, a pesar de que estos son los medios en los que se centra gran parte de la preocupación por la IA.
Aunque Meta reconoce sus limitaciones para detectar audio y vídeo generados por IA, su intención es basarse en el etiquetado de los usuarios y en las sanciones por incumplimiento.
El Consejo de Supervisión de Meta, financiado por Meta pero independiente de la empresa, calificó la decisión de "incoherente".
Instó a actualizarla para hacer frente a la creciente prevalencia de contenidos sintéticos e híbridos en línea.
Aunque Meta ha descrito esta tecnología como puntera, un experto en IA ha declarado a la BBC que este tipo de herramientas son "fácilmente eludibles".
Meta ha reconocido que su herramienta no funcionará para audio y vídeo, a pesar de que estos son los medios en los que se centra gran parte de la preocupación por la IA.
Aunque Meta reconoce sus limitaciones para detectar audio y vídeo generados por IA, su intención es basarse en el etiquetado de los usuarios y en las sanciones por incumplimiento.
El Consejo de Supervisión de Meta, financiado por Meta pero independiente de la empresa, calificó la decisión de "incoherente".
Instó a actualizarla para hacer frente a la creciente prevalencia de contenidos sintéticos e híbridos en línea.