(LIU CAIVU. GLOBAL TIMES)
El Tribunal de Internet de Beijing dictaminó el martes que una empresa de software había infringido los derechos de una persona después de que la empresa utilizara una herramienta impulsada por inteligencia artificial para replicar su voz, sin su consentimiento, y la vendiera a otras plataformas.
Este caso es el primero de este tipo que se dictamina en China, lo que hace sonar la alarma para las empresas de IA de que deben obtener autorización legal antes de utilizar la voz de una persona para la capacitación y el desarrollo de modelos grandes. La demandante, una locutora de apellido Yin, descubrió en mayo de 2023 que su voz se estaba utilizando en numerosos audiolibros en línea sin su consentimiento.
Después de investigar, descubrió que se estaba utilizando una herramienta impulsada por inteligencia artificial para replicar su voz y venderla a diferentes plataformas con fines de lucro. Yin cree que fue una empresa de medios culturales, con la que tenía tratos comerciales anteriores, la que entregó las grabaciones de audio de sus audiolibros a otra empresa de software que luego procesó la voz de Yin utilizando tecnología de inteligencia artificial y se la vendió al operador de la aplicación “Magic Sound”. Taller.
“El tribunal decidió que los acusados - la empresa de medios culturales y la empresa de software – son conjuntamente responsables de compensar a Yin por las pérdidas económicas de 250.000 yuanes (34.507 dólares). El operador de la aplicación y la empresa de software también deben presentar una disculpa al demandante dentro de los siete días siguientes a la entrada en vigor de la sentencia. Zhao Ruigang, vicepresidente del Tribunal de Internet de Beijing, dijo al Global Times que el caso refleja un proceso completo en el que un audiolibro común se utiliza como material de entrenamiento de IA y finalmente se utiliza en el producto final. Recuerda a las empresas de inteligencia artificial que primero obtengan autorización legal de las personas para sus derechos de voz antes de continuar con la capacitación, el desarrollo o la venta de sus productos, señaló Zhao.
El fallo del tribunal estableció que la voz de una persona física se identifica por el tono y la frecuencia de la huella vocal, y posee características únicas y estables que pueden evocar pensamientos o emociones asociados con ese individuo. Si bien una voz natural puede ser menos reconocible después de la síntesis de inteligencia artificial, eso no implica que no esté protegida legalmente, ya que la tecnología no siempre corta el vínculo con las voces humanas naturales.
En este escenario, incluso después de la síntesis de IA, las voces aún pueden permitir al público crear pensamientos o emociones asociadas con el demandante, conectando esa voz directamente con el demandante y revelando su identidad, según el fallo. El nuevo Código Civil protege el derecho a la voz como un derecho de retrato emergente. Esto significa que está prohibido que cualquier individuo o entidad altere, dañe o falsifique la voz de alguien, o la manipule utilizando tecnología. La ley prohíbe la creación, utilización o difusión de la voz de alguien sin su consentimiento.
Li Zonghui, investigador de la Universidad de Aeronáutica y Astronáutica de Nanjing sobre el estado de derecho de la IA, dijo al Global Times que el caso proporciona una referencia para disputas similares sobre la IA: si la voz procesada por la IA aún puede rastrearse hasta una persona física, es legítima. derecho que no puede ser vulnerado.
Las plataformas en línea también deben fortalecer la gestión y tomar medidas como eliminar videos infractores de manera oportuna para regular mejor la industria de la IA, señaló Li. La naturaleza de la IA generativa requiere recopilar una amplia gama de materiales existentes, incluidos textos, imágenes y otras obras, incluso aquellas que aún están protegidas por derechos de autor, por lo que plantea un riesgo significativo de infracción de derechos de autor, dijo Li.
El Tribunal de Internet de Beijing preside el primer caso de derechos de voz de IA del país el 23 de abril de 2024. Foto: Liu Caiyu/GT