La tarea de alinear la IA es verdaderamente complicada. No es sencillo elegir quién establece las normas y lograr, además, que estas obtengan la aprobación de la mayoría.
Las leyes siempre fueron posteriores a la tecnología, sencillamente, porque las innovaciones crean nuevas realidades, desafíos y aplicaciones que no eran contempladas por los marcos legales existentes. A su vez, las leyes requieren de procesos deliberativos, debates y – fundamentalmente – consensos políticos y sociales para su creación o actualización, lo que a menudo lleva más tiempo que el desarrollo de la tecnología en sí.
Además, la regulación de la IA no puede ser estática. Debe ser un proceso dinámico que se adapte a los avances tecnológicos y a los cambios en la comprensión y expectativas sociales.
Esto significa que las instituciones encargadas de la regulación de la IA necesitarán no solo una base sólida en la tecnología, sino también en ética. La colaboración interdisciplinaria será esencial para abordar las complejidades inherentes a la alineación de la IA con los valores humanos.
Pero esta brecha de tiempo hasta que las leyes y marcos regulatorios efectivamente se crean, aprueban e implementan puede generar momentos en los cuales las tecnologías funcionan en un vacío legal o marcos insuficientes. Esto plantea desafíos para su regulación, ética y protección de los usuarios, entre otros.
La democracia en la toma de decisiones sobre la IA es tan crucial como compleja, especialmente cuando se trata de interpretar y priorizar valores a menudo contradictorios entre diferentes culturas y comunidades. OpenAI está buscando que la IA se alinee a los “valores humanos”, pero ¿cuáles son esos valores, a quién representan? ¿Es posible diseñar un sistema que refleje la voluntad del público?
Una de las alternativas que encontraron para trabajar en esta problemática fue, a través de un programa de fondeo, dar con nuevas ideas. Una de las ganadoras es Remesh, una compañía que utiliza la AI para, por ejemplo, analizar las opiniones e interacciones de distintos grupos de usuarios y proponer puntos en común.
A pedido de la ONU, Remesh había estado trabajando en acuerdos de paz y alto el fuego en países como Libia y Yemen, donde se estaban gestando prolongados conflictos civiles. Gracias a la tecnología, podían encontrar una hoja de puntos en común sobre los cuales establecer algún principio de acuerdo.
La propuesta de Remesh es combinar su solución con la tecnología GPT-4 para consultar a una muestra representativa del público sobre temas relacionados a la IA y producir un documento legal “que represente el consenso público informado”.
El tema está buenísimo y da para un largo debate respecto a la importancia de la regulación de la Inteligencia Artificial, su impacto en la sociedad del futuro y en la posthumanidad como la conocemos.