Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI y TikTok han liderado este esfuerzo al que se han sumado otras doce compañías, incluida X (antes Twitter) para mostrar un frente común contra el uso indebido de la IA en el contexto electoral.
Este pacto, aunque simbólico, subraya el compromiso de estas compañías para adoptar "precauciones razonables" contra las falsificaciones generadas por IA (deepfakes) que buscan engañar a los votantes. Las imágenes, audios y vídeos hiperrealistas que falsifican o alteran la apariencia, voz o acciones de candidatos políticos, funcionarios electorales y otros actores clave, así como la desinformación sobre cómo, cuándo y dónde votar, son el blanco principal de estas medidas.
Nick Clegg, presidente de asuntos globales de Meta, ha destacado la importancia de la colaboración transversal, reconociendo que ningún ente por sí solo puede enfrentar los retos que presenta la emergencia de esta tecnología. La iniciativa no pretende eliminar o prohibir los deepfakes, sino más bien identificarlos y etiquetarlos adecuadamente cuando se distribuyan en las plataformas participantes. Además, se enfatizará en la compartición de mejores prácticas y en responder de manera rápida y proporcionada cuando el contenido engañoso comience a circular.
Pese a la vaguedad de los compromisos y la ausencia de requisitos vinculantes, que han facilitado la adhesión de una amplia gama de empresas, algunos defensores y analistas han mostrado su desilusión por no haberse establecido garantías más firmes. Sin embargo, reconocen el interés de las compañías en no ser vehículos para socavar elecciones libres y justas.
El acuerdo también ha contado con el respaldo de líderes políticos de Europa y Estados Unidos. Así, Vera Jourova, vicepresidenta de la Comisión Europea, ha alabado los elementos positivos del pacto y ha urgido a los políticos a no usar herramientas de IA de manera engañosa, advirtiendo sobre el potencial destructivo de la desinformación impulsada por IA para la democracia.
Este compromiso adquiere especial relevancia en un año en el que más de 50 países celebrarán elecciones nacionales, incluidas potencias como Estados Unidos y la Unión Europea. Incidentes recientes, como robollamadas en New Hampshire que imitaban la voz del presidente Joe Biden y que han sido prohibidas o grabaciones en Eslovaquia falsamente atribuidas a un candidato, evidencian la amenaza emergente que representa la IA en el ámbito electoral.
Transparencai y educación
Las empresas firmantes del acuerdo han prometido enfocarse en la transparencia y educar al público sobre cómo identificar falsificaciones de IA. Aunque muchas ya han anunciado medidas de seguridad para sus herramientas generativas de IA, la presión para que implementen soluciones efectivas sigue en aumento, especialmente en Estados Unidos, donde la falta de legislación específica deja en manos de las propias compañías la autorregulación en este terreno.
Si (
No(
