Este artículo es parte de Ya Es Tiempo, una serie que busca explicar y desmitificar el proceso electoral en vísperas de las elecciones 2024.
Antes de las elecciones primarias presidenciales de New Hampshire, una llamada utilizando Inteligencia Artificial (IA) para imitar la voz del Presidente Joe Biden llegó a casi 25,000 personas en el estado. Esta llamada ha desatado una conversación extensa sobre el rol de esta tecnología, sus usos, y cómo la navegamos a nivel nacional.
El estado de New Hampshire y la Comisión Federal de Comunicaciones (FCC) emitieron cartas de requerimiento de cese y desistimiento. Estas son una notificación por escrito exigiendo que el destinatario detenga inmediatamente una actividad ilegal o supuestamente ilegal. Esta llamada no fue sancionada por la campaña de Joe Biden ni por ninguno de los partidos políticos.
Ahora en New Hampshire hay varios esfuerzos legislativos para detener los efectos más dañinos del uso de la IA. Pero en el día a día, ¿cómo se puede navegar esta tecnología?
Para conocer más sobre el tema, el programa ‘The State We’re In’ de NHPBS publicó un episodio sobre el uso de IA y la legislación existente sobre esta tecnología.
“La razón por la que es tan increíblemente eficaz, la razón por la que parece inteligente, es porque basa sus predicciones en cantidades asombrosamente enormes de datos. Esto ha sido posible gracias a dos cosas: computadoras y sistemas de redes mucho más rápidos, e Internet”, dijo David Brooks, un periodista del Concord Monitor.
La llamada automática fue grabada y revisada por NHPBS. La voz por el teléfono emulaba la voz de Biden y usaba frases que tiende a usar. En la parte inicial de la llamada, usaron la tecnología con una de estas frases al decir “What a bunch of malarkey,” en la voz de Biden, con la intención de hacer creer a los oyentes que en realidad era Biden.
“Hubo un anuncio de una campaña Republicana que salió mucho antes de la llamada de Biden y que ofrecía una visión de IA del futuro, de un futuro distópico bajo el gobierno de los demócratas. Entonces, anuncios como ese en el futuro tendrían que decir 'esto fue hecho con inteligencia artificial”, dijo Brown.
“Lo más alarmante en este momento son las falsificaciones. Este tipo de término generalizado para crear texto, bueno, no realmente texto, el texto es fácil, pero crear audio o video es difícil de distinguir de la realidad”, dijo Brooks.
Hace apenas unos meses aparecieron imágenes del Papa Francisco generadas por IA con una elegante chaqueta invernal y una cadena de cruz larga y plateada. Estos se extendieron por Internet y fueron rápidamente desacreditados, pero ya habían sido vistos por cientos de miles de personas.
Como lo sugiere Brooks, este no es un caso aislado y más contenido de este tipo generado artificialmente está siendo utilizado para desinformar, especialmente en redes sociales. Es fundamental estar preparado, consciente e informado para no ser víctima de contenido similar.
A continuación, hemos incluido una serie de pautas específicas para verificar si un material escrito o audiovisual fue generado utilizando IA.
Propuestas legislativas
Brown categorizó las propuestas legislativas en tres grupos. El primero sobre contenido sexual en relación a contenido artificialmente generado, daño general causado por ‘deep fakes’ (contenido haciéndose pasar por alguien como la llamada de Biden), y el uso de IA por el gobierno estatal.
También comentó que hay proyectos de ley para controlar estas interferencias con las elecciones. Dijo que, “estos proyectos de ley diferentes permitirían a una persona presentar una demanda si fuera perjudicada por un ‘deep fake.’ Y hay una atención específica hacia los anuncios de campaña que requieren cierta divulgación si se utiliza un ‘deep fake’”.
Brown dijo, “SB564 ampliaría la ley contra las imágenes de abuso sexual infantil para tambien cubrir las imágenes generadas por IA o retocadas con Photoshop que no se pueden distinguir de una imagen real del niño. Y luego también están las HB1319 y SB464 que ampliarían la ley actual contra la difusión no consentida de imágenes sexuales, también llamada pornografía de venganza, para incluir imágenes sintéticas, retocadas con Photoshop o IA”.
Estas formas de desinformación plantean amenazas tanto a los votantes como a los candidatos en este ciclo electoral. Este intento de disuadir a los votantes de ejercer sus libertades democráticas fue rápidamente eliminado y denunciado para evitar la expansión y difusión de la desinformación.
La llamada de IA con la voz de Biden es el primer caso de llamadas automáticas generadas por IA con la motivación política de afectar en los procedimientos de votación y elección. Recientemente, hay informes sobre los peligros del contenido generado por IA en línea y en muchos sitios web de redes sociales. Muchos han comenzado a marcar contenido creado artificialmente pero que ha sido difícil de contener.
El contenido de audio generado artificialmente, como las llamadas automáticas de Biden, es uno de los más difíciles de identificar de forma independiente. Pero aquí explicamos cómo identificar diferentes tipos de contenido de IA.
“Lo que es la IA actual es una máquina de predicción enorme e increíblemente rápida. Predice lo que los seres humanos harían en una situación particular basándose en lo que hemos hecho en el pasado”, dijo Brooks.
¿Cómo identificar texto generado por IA?
1. Sin cambios de tono o lenguaje: El texto AI no incluirá sorpresas. Por lo general, el texto generado por IA utiliza el mismo vocabulario consistentemente y es muy secuencial. El contenido de IA suele carecer de emoción y conexión con el lector o difícilmente comunica ideas abstractas.
2. Impecable: Si un texto no tiene errores tipográficos o contiene jerga muy técnica, puede ser generado por IA. Los escritores y editores humanos pueden escribir párrafos perfectos pero no por completo en todo momento. Además, el uso de vocabulario y estructura de oraciones complejas puede indicar contenido de IA porque si fuera creado por humanos sería accesible y simple de entender. Esto puede variar dependiendo del formato e intención del contenido.
3. Contenido genérico: El texto humano generalmente incluirá discusiones sobre experiencias personales, detalles específicos, anécdotas, etc. Mientras que el texto de IA utilizará información y ejemplos fácilmente disponibles en Internet. Además, utilizarán información desactualizada o inexacta que se encuentra en Internet, por lo que es importante verificar siempre los datos de forma independiente.
4. Repetitividad: Los textos generados por IA a menudo será repetitivo temáticamente y volverán a ideas anteriores. No son capaces de crear contenido original o inventarse algo, más bien se basan únicamente en lo que ha sido escrito por humanos anteriormente.
5. Herramientas de identificación en línea: Alternativamente, si no está seguro de si el contenido escrito se creó artificialmente, puede utilizar detectores de inteligencia artificial en línea que pueden determinar si lo es con casi total certeza.
¿Cómo identificar imágenes generadas por IA?
1. Desenfoque y textura: Las imágenes generadas por IA a menudo tendrán fondos borrosos o texturizados donde es difícil identificar qué hay detrás del sujeto.
2. Humanos distorsionados: Estas imágenes a menudo también generan representaciones realistas de rostros humanos, pero cometen errores con algunas características y formas del cuerpo. Ejemplos comunes son dedos faltantes, tallas desproporcionadas y detalles faltantes en la ropa o el fondo (botones, cadenas, etc.).
3. Marcas de agua digitales: A veces, estas imágenes incluirán firmas digitales en la imagen que las marcan como IA. (Estos pueden ser un pequeño logotipo, imagen o texto en un color translúcido).
¿Cómo identificar material auditivo generado por IA?
1. Tono e inflexión: Muchas grabaciones de voz generadas por IA pueden imitar el sonido general de la persona, pero no cambiarán totalmente. A menudo, serán monótonos y utilizarán sonidos repetitivos. El ritmo de una voz generada usualmente es el mismo en todo momento, a diferencia de cuando habla un ser humano real con cambio en rapidez, volumen y tono.
2. Vocabulario: De manera similar a la identificación de texto generado por IA, estas grabaciones tendrán un uso repetitivo de ciertas palabras o frases en un esfuerzo por convencer a los oyentes de que son reales. Además recuerda que algunos son escritos por humanos y la voz es generada por la IA, entonces tienes que estar atento al contenido.
3. Verificación de hechos: Si es posible, verifica la información transmitida por un mensaje del que no esté seguro. En el caso de la llamada automática en New Hampshire, muchas personas reportaron la llamada a las autoridades después de identificar y verificar correctamente que la voz o la información por teléfono sonaba incorrecta.
¿Qué otros recursos puedo utilizar para combatir la desinformación?
Para combatir la desinformación electoral puedes recurrir a varias páginas y recursos diferentes. Estos son la página de noticias en espanol de NHPR, las páginas de NHPBS y la página de TikTok con la campaña de información electoral de “Ya Es Tiempo”, la página del Granite State News Collaborative y la página web del Secretario del Estado de New Hampshire.
Página principal de Noticias en Español de NHPR (https://www.nhpr.org/noticias-en-espanol): En esta página se publican noticias escritas y audiovisuales de New Hampshire producidas por New Hampshire Public Radio.
Pagina principal de NHPBS (https://nhpbs.org/): Aqui están todos los programas y noticias publicadas por New Hampshire Public Broadcasting Service.
TikTok y Campaña de “Ya Es Tiempo” (https://www.tiktok.com/@nhpbs): En la página de TikTok hay una serie de videos en español explicando el proceso electoral a votantes.
Granite State News Collaborative(https://www.collaborativenh.org/): Esta página es de la organización colaborativa de muchos noticieros, periódicos, y canales de noticias del estado de New Hampshire.
Página web del Secretario del Estado de New Hampshire(https://www.sos.nh.gov/): Esta contiene todas las leyes, los recursos, y fechas que los votantes necesitan saber para las elecciones locales, estatales, primarias y generales.
