MICHAEL D. CIZALLA. THE NEW YORK TIMES
Amazon, Google y Meta se encuentran entre las empresas que anunciarán los nuevos compromisos el viernes mientras compiten para superarse entre sí con versiones de inteligencia artificial.
Siete empresas líderes de IA en los Estados Unidos acordaron salvaguardas voluntarias en el desarrollo de la tecnología, anunció la Casa Blanca el viernes, comprometiéndose a luchar por la seguridad y la confianza incluso cuando compiten por el potencial de la inteligencia artificial.
Las siete empresas (Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI) anunciarán formalmente su compromiso con los nuevos estándares en una reunión con el presidente Biden en la Casa Blanca el viernes por la tarde.
El anuncio se produce cuando las empresas compiten para superarse entre sí con versiones de IA que ofrecen nuevas y poderosas herramientas para crear texto, fotos, música y video sin intervención humana. Pero los avances tecnológicos han generado temores de que las herramientas faciliten la difusión de desinformación y advertencias nefastas de un “riesgo de extinción” a medida que evolucionan las computadoras autoconscientes.
La propagación de la desinformación y las falsedades
- Una decisión importante : los investigadores de desinformación dijeron que la decisión de un juez federal de restringir la comunicación del gobierno de EE. UU. con los sitios de redes sociales podría obstaculizar los esfuerzos para frenar las afirmaciones falsas y el contenido dañino .
- Apuntando a los investigadores de la desinformación: los republicanos están organizando una amplia campaña legal contra las universidades y organizaciones que estudian la desinformación, acusándolas de intentar suprimir el discurso conservador en línea.
- The Titanic Truthers of TikTok: en la aplicación, los hechos establecidos desde hace mucho tiempo sobre el desastre de 1912 se están litigando nuevamente a medida que los rumores mohosos se fusionan con nueva información errónea y contenido manipulado.
- Un esfuerzo global: un grupo de académicos presentó un panel internacional para estudiar la desinformación en línea , inspirado en la forma en que los científicos documentaron el efecto global de las emisiones de carbono.
El miércoles, Meta, la empresa matriz de Facebook, anunció su propia herramienta de inteligencia artificial llamada Llama 2 y dijo que lanzaría el código subyacente al público. Nick Clegg, presidente de asuntos globales de Meta, dijo en un comunicado que su empresa apoya las salvaguardas desarrolladas por la Casa Blanca.
“Nos complace hacer estos compromisos voluntarios junto con otros en el sector”, dijo el Sr. Clegg. “Son un primer paso importante para garantizar que se establezcan barandillas responsables para la IA y crean un modelo a seguir para otros gobiernos”.
Las salvaguardas voluntarias anunciadas el viernes son solo un primer paso a medida que Washington y los gobiernos de todo el mundo establecen marcos legales y regulatorios para el desarrollo de la inteligencia artificial. Funcionarios de la Casa Blanca dijeron que la administración estaba trabajando en una orden ejecutiva que iría más allá del anuncio del viernes y apoyaba el desarrollo de una legislación bipartidista.
“Las empresas que están desarrollando estas tecnologías emergentes tienen la responsabilidad de garantizar que sus productos sean seguros”, dijo la administración en un comunicado anunciando los acuerdos. La declaración decía que las empresas deben “mantener los más altos estándares para garantizar que la innovación no se produzca a expensas de los derechos y la seguridad de los estadounidenses”.
Como parte del acuerdo, las empresas acordaron:
- Pruebas de seguridad de sus productos de IA, en parte por expertos independientes y para compartir información sobre sus productos con gobiernos y otros que intentan gestionar los riesgos de la tecnología.
- Garantizar que los consumidores puedan detectar el material generado por IA mediante la implementación de marcas de agua u otros medios para identificar el contenido generado.
- Informar públicamente las capacidades y limitaciones de sus sistemas de forma regular, incluidos los riesgos de seguridad y la evidencia de sesgo.
- Implementar herramientas avanzadas de inteligencia artificial para abordar los mayores desafíos de la sociedad, como curar el cáncer y combatir el cambio climático.
- Realizar investigaciones sobre los riesgos de sesgo, discriminación e invasión de la privacidad a partir de la difusión de herramientas de IA.
“El historial de la IA muestra la insidiosidad y la prevalencia de estos peligros, y las empresas se comprometen a implementar una IA que los mitigue”, dijo el comunicado de la administración de Biden el viernes antes de la reunión.
Es poco probable que el acuerdo frene los esfuerzos para aprobar leyes e imponer regulaciones sobre la tecnología emergente. Los legisladores en Washington se apresuran a ponerse al día con los rápidos avances en inteligencia artificial. Y otros gobiernos están haciendo lo mismo.
El mes pasado, la Unión Europea se movió rápidamente al considerar los esfuerzos de mayor alcance para regular la tecnología. La legislación propuesta por el Parlamento Europeo pondría límites estrictos a algunos usos de la IA, incluido el reconocimiento facial, y exigiría que las empresas divulguen más datos sobre sus productos.
Michael D. Shear es un corresponsal veterano de la Casa Blanca y dos veces ganador del Premio Pulitzer que fue miembro del equipo que ganó la Medalla de Servicio Público por la cobertura de Covid en 2020. Es coautor de “Border Wars: Inside Trump’s Assault on Immigration”. Más sobre Michael D. Shear