- Ocho grandes empresas –GSMA, INNIT, Grupo Lenovo, LG AI Research, Mastercard, Microsoft, Salesforce y Telefónica– han firmado hoy un acuerdo pionero con la UNESCO para construir una inteligencia artificial (IA) más ética. Incorporarán los valores y principios de la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial en el diseño y despliegue de sus propios sistemas de IA.
Para descargar la carta de compromiso de las empresas, haga clic en este enlace. (en inglés).
UNESCO, febrero de 2024 – El acuerdo se firmó en Kranj (Eslovenia), en el segundo Foro Mundial de la UNESCO sobre la IA. Las empresas se comprometen a asumir plenamente su papel a la hora de garantizar la protección de los derechos humanos durante el diseño, el desarrollo, la compra, la venta y el uso de la IA. Es la primera vez que un grupo de empresas se comprometen ante las Naciones Unidas en este ámbito.
Deberán establecerse procedimientos de verificación para garantizar que se cumplen las normas de seguridad, que pueden identificarse los efectos nocivos de la IA y que pueden adoptarse medidas para prevenir, limitar o corregir los riesgos, de conformidad con las legislaciones nacionales. El acuerdo subraya la importancia de las pruebas ex ante (antes de comercializar un nuevo sistema de IA) y también pide que se desarrollen prácticas de evaluación y mitigación de riesgos ex post (después de la implantación), dada la rápida evolución de los sistemas existentes.
La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial fue la primera y sigue siendo el único marco normativo mundial sobre este tema, y en sus dos primeros años de existencia se han logrado avances tangibles. Más de 50 países participan ahora activamente en la aplicación de este instrumento, y la cooperación multilateral ha aumentado considerablemente.
Desde la adopción de la Recomendación, la UNESCO también ha avanzado en la cooperación con el sector privado, lo que ha llevado a la creación de un Consejo Empresarial para la Ética de la IA, copresidido por Microsoft y Telefónica. Este Consejo se ha comprometido a crear capacidades técnicas en materia de ética y de IA, a concebir y aplicar la herramienta de evaluación del impacto ético de la Recomendación y a contribuir a la elaboración de reglamentaciones regionales adecuadas.