En respuesta a los importantes avances en las tecnologías de IA generativa, así como a las preguntas importantes que plantean estas tecnologías en áreas que incluyen la propiedad intelectual, el futuro del trabajo e incluso la seguridad humana, el Consejo de política tecnológica global de la Association for Computing Machinery (ACM TPC) ha emitido « Principios para el desarrollo, implementación y uso de tecnologías de IA generativa ».
Basándose en la profunda experiencia técnica de los científicos informáticos en los Estados Unidos y Europa, la declaración ACM TPC describe ocho principios destinados a fomentar la toma de decisiones justa, precisa y beneficiosa con respecto a las tecnologías de IA generativa y todas las demás. Cuatro de los principios son específicos de la IA generativa, y otros cuatro principios están adaptados de la « Declaración sobre principios para sistemas algorítmicos responsables » de TPC de 2022.
La Introducción a los nuevos Principios avanza el argumento central de que « el poder cada vez mayor de los sistemas de IA generativa, la velocidad de su evolución, la amplia aplicación y el potencial para causar daños significativos o incluso catastróficos, significa que se debe tener mucho cuidado al investigar, diseñar, desarrollándolos, desplegándolos y usándolos. Los mecanismos y modos existentes para evitar tales daños probablemente no sean suficientes ».
Luego, el documento establece estos ocho principios instrumentales, que se describen aquí en forma abreviada :
Principios específicos de la IA generativa
- Límites y orientación sobre la implementación y el uso : En consulta con todas las partes interesadas, la ley y la regulación deben revisarse y aplicarse tal como están escritas o revisadas para limitar el despliegue y el uso de tecnologías de IA generativa cuando sea necesario para minimizar el daño. No se debe permitir que ningún sistema de IA de alto riesgo funcione sin salvaguardas claras y adecuadas, incluido un « humano en el circuito » y un claro consenso entre las partes interesadas relevantes de que los beneficios del sistema superarán sustancialmente sus posibles impactos negativos. Un enfoque es definir una jerarquía de niveles de riesgo, con riesgo inaceptable en el nivel más alto y riesgo mínimo en el nivel más bajo
- Propiedad : Los aspectos inherentes de cómo se estructuran y funcionan los sistemas de IA generativa aún no se tienen en cuenta adecuadamente en las leyes y reglamentos de propiedad intelectual (PI)
- Control de datos personales: Los sistemas de IA generativa deben permitir que una persona opte por que sus datos no se utilicen para entrenar un sistema o facilitar su generación de información
- Corregible : Los proveedores de sistemas de IA generativa deben crear y mantener repositorios públicos donde se puedan anotar los errores cometidos por el sistema y, opcionalmente, realizar las correcciones
Principios anteriores adaptados
- Transparencia : Cualquier aplicación o sistema que utilice IA generativa debe revelar claramente que lo hace a las partes interesadas correspondientes
- Auditabilidad y contestabilidad : Los proveedores de sistemas de IA generativa deben asegurarse de que los modelos, algoritmos, datos y resultados del sistema puedan registrarse cuando sea posible (con la debida consideración a la privacidad), para que puedan ser auditados y/o cuestionados en los casos apropiados
- Limitación del impacto ambiental : Dado el gran impacto ambiental de los modelos de IA generativa, recomendamos que se desarrolle un consenso sobre metodologías para medir, atribuir y reducir activamente dicho impacto
- Mayor seguridad y privacidad : Los sistemas de IA generativa son susceptibles a una amplia gama de nuevos riesgos de seguridad y privacidad, incluidos nuevos vectores de ataque y fugas de datos maliciosos, entre otros
« Nuestro campo debe andar con cuidado con el desarrollo de IA generativa porque este es un nuevo paradigma que va mucho más allá de la tecnología y las aplicaciones de IA anteriores », explicó Ravi Jain, presidente del Grupo de trabajo sobre IA generativa del Consejo de política tecnológica de ACM y autor principal de los principios. « Ya sea que celebre la IA generativa como un avance científico maravilloso o le tema, todos están de acuerdo en que debemos desarrollar esta tecnología de manera responsable. Al delinear estos ocho principios instrumentales, hemos tratado de considerar una amplia gama de áreas donde la IA generativa podría tener un Estos incluyen aspectos que no se han cubierto tanto en los medios, incluidas las consideraciones ambientales y la idea de crear repositorios públicos donde se pueden anotar y corregir los errores en un sistema ».
« Estas son pautas, pero también debemos construir una comunidad de científicos, legisladores y líderes de la industria que trabajarán juntos en el interés público para comprender los límites y riesgos de la IA generativa, así como sus beneficios. La posición de ACM como la asociación más grande del mundo para los profesionales de la computación nos hace muy aptos para fomentar ese consenso y esperamos trabajar con los legisladores para elaborar las regulaciones mediante las cuales se debe desarrollar, implementar, pero también controlar la IA generativa », agregó James Hendler, profesor del Instituto Politécnico Rensselaer y presidente del Consejo de Política Tecnológica de ACM.
Los « Principios para el desarrollo, implementación y uso de tecnologías de IA generativa » fueron elaborados y adoptados conjuntamente por el Comité de política tecnológica de EE. UU. (USTPC) y el Comité de política tecnológica de Europa (TPC de Europa) de la ACM.
Los autores principales de este documento para la USTPC fueron Ravi Jain, Jeanna Matthews y Alejandro Saucedo. Harish Arunachalam, Brian Dean, Advait Deshpande, Simson Garfinkel, Andrew Grosso, Jim Hendler, Lorraine Kisselburgh, Srivatsa Kundurthy, Marc Rotenberg, Stuart Shapiro y Ben Shneiderman realizaron contribuciones importantes. También brindaron asistencia Ricardo Baeza-Yates, Michel Beaudouin-Lafon, Vint Cerf, Charalampos Chelmis, Paul DeMarinis, Nicholas Diakopoulos, Janet Haven, Ravi Iyer, Carlos E. Jimenez-Gomez, Mark Pastin, Neeti Pokhriyal, Jason Schmitt y Darryl Scriven.