NUEVA YORK
La Comisión Federal de Comunicaciones prohibió el jueves las llamadas automáticas que contienen voces generadas por inteligencia artificial , una decisión que envía un mensaje claro de que no se tolerará la explotación de la tecnología para estafar a las personas y engañar a los votantes.
El fallo unánime apunta a las llamadas automáticas realizadas con herramientas de clonación de voz de IA en virtud de la Ley de Protección al Consumidor Telefónico, una ley de 1991 que restringe las llamadas basura que utilizan mensajes de voz artificiales y pregrabados.
El anuncio se produce mientras las autoridades de New Hampshire avanzan en su investigación sobre las llamadas automáticas generadas por IA que imitaban la voz del presidente Joe Biden para disuadir a la gente de votar en las primeras primarias del estado del país el mes pasado.
Con efecto inmediato, la regulación faculta a la FCC para multar a las empresas que utilicen voces de IA en sus llamadas o bloquear a los proveedores de servicios que las transmiten. También abre la puerta para que los destinatarios de las llamadas presenten demandas y brinda a los fiscales generales estatales un nuevo mecanismo para tomar medidas enérgicas contra los infractores, según la FCC.
La presidenta de la agencia, Jessica Rosenworcel, dijo que los malos actores han estado utilizando voces generadas por IA en llamadas automáticas para desinformar a los votantes, hacerse pasar por celebridades y extorsionar a familiares.
“Parece algo del futuro lejano, pero esta amenaza ya está aquí”, dijo Rosenworcel a The Associated Press el miércoles mientras la comisión consideraba las regulaciones. "Todos nosotros podríamos ser el receptor de estas llamadas falsas, por eso sentimos que ahora era el momento de actuar".
Según la ley de protección al consumidor, los vendedores telefónicos generalmente no pueden utilizar marcadores automáticos o mensajes de voz artificiales o pregrabados para llamar a teléfonos celulares, y no pueden realizar dichas llamadas a teléfonos fijos sin el consentimiento previo por escrito del destinatario de la llamada.
El nuevo fallo clasifica las voces generadas por IA en llamadas automáticas como “artificiales” y, por lo tanto, aplicables según los mismos estándares, dijo la FCC.
Aquellos que violen la ley pueden enfrentar fuertes multas, con un máximo de más de $23,000 por llamada, dijo la FCC. La agencia ha utilizado anteriormente la ley del consumidor para tomar medidas drásticas contra los llamadores automáticos que interfieren en las elecciones, incluida la imposición de una multa de 5 millones de dólares a dos farsantes conservadores por advertir falsamente a personas en áreas predominantemente negras que votar por correo podría aumentar su riesgo de arresto, cobro de deudas y forzado. vacunación.
La ley también otorga a los destinatarios de las llamadas el derecho de emprender acciones legales y potencialmente recuperar hasta $1,500 en daños por cada llamada no deseada.
Josh Lawson, director de IA y democracia del Instituto Aspen, dijo que incluso con el fallo de la FCC, los votantes deberían prepararse para recibir spam personalizado dirigido a ellos por teléfono, mensajes de texto y redes sociales.
"Los verdaderos sombreros oscuros tienden a ignorar lo que está en juego y saben que lo que están haciendo es ilegal", dijo. "Tenemos que entender que los malos actores seguirán sacudiendo las jaulas y superando los límites".
Kathleen Carley, profesora de Carnegie Mellon que se especializa en desinformación computacional, dijo que para detectar el abuso de la tecnología de voz por parte de la IA, es necesario poder identificar claramente que el audio fue generado por IA.
Eso es posible ahora, dijo, “porque la tecnología para generar estas llamadas existe desde hace algún tiempo. Se entiende bien y comete errores estándar. Pero esa tecnología mejorará”.
En las elecciones de Estados Unidos y de todo el mundo ya se utilizan sofisticadas herramientas de inteligencia artificial generativa, desde software de clonación de voz hasta generadores de imágenes.
El año pasado, cuando comenzaba la carrera presidencial de Estados Unidos, varios anuncios de campaña utilizaron audio o imágenes generadas por IA, y algunos candidatos experimentaron con el uso de chatbots de IA para comunicarse con los votantes.
Los esfuerzos bipartidistas en el Congreso han buscado regular la IA en las campañas políticas, pero no se ha aprobado ninguna legislación federal, ya que faltan nueve meses para las elecciones generales.
La representante Yvette Clarke, quien presentó una legislación para regular la IA en la política, elogió a la FCC por su fallo, pero dijo que ahora el Congreso debe actuar.
"Creo que los demócratas y los republicanos pueden estar de acuerdo en que el contenido generado por IA utilizado para engañar a la gente es algo malo, y debemos trabajar juntos para ayudar a la gente a tener las herramientas necesarias para ayudar a discernir qué es real y qué no", dijo Clarke. DN.Y.
Las llamadas automáticas generadas por IA que intentaron influir en las elecciones primarias del 23 de enero en New Hampshire utilizaron una voz similar a la de Biden, emplearon su frase de uso frecuente, "Qué montón de tonterías" y sugirieron falsamente que votar en las primarias impediría a los votantes elegir una votación en noviembre.
"New Hampshire tuvo una idea de cómo la IA puede usarse de manera inapropiada en el proceso electoral", dijo el Secretario de Estado de New Hampshire, David Scanlan. "Ciertamente es apropiado tratar de controlar el uso y la aplicación de la ley para no engañar a la población votante de una manera que pueda dañar nuestras elecciones".
El fiscal general del estado, John Formella, dijo el martes que los investigadores habían identificado a Life Corp., con sede en Texas, y a su propietario, Walter Monk, como la fuente de las llamadas, que llegaron a miles de residentes del estado, en su mayoría demócratas registrados. Dijo que las llamadas fueron transmitidas por otra empresa con sede en Texas, Lingo Telecom.
Según la FCC, tanto Lingo Telecom como Life Corp. han sido investigadas por llamadas automáticas ilegales en el pasado.
Lingo Telecom dijo en un comunicado el martes que “actuó de inmediato” para ayudar con la investigación sobre las llamadas automáticas que se hacían pasar por Biden. La compañía dijo que “no tuvo participación alguna en la producción del contenido de la llamada”.
Un hombre que respondió a la línea comercial de Life Corp. declinó hacer comentarios el jueves.
Fuente: AP