Tanto la IA como las criptomonedas se mueven a una velocidad vertiginosa y son profundamente técnicas, lo que las hace difíciles de regular, pero los denunciantes están siendo silenciados.
Otra semana más y otra advertencia sobre la inteligencia artificial.
Pero esta carta abierta, que expresa temores de que pueda exacerbar las desigualdades, alimentar la desinformación y conducir a sistemas de inteligencia artificial incontrolables que “potencialmente resulten en la extinción humana”, impacta de manera diferente.
¿Por qué? Porque cuatro de los firmantes anónimos son empleados actuales de OpenAI, el creador del popular ChatGPT. Otros seis solían trabajar allí.
El hecho de que tantas personas íntimamente involucradas en llevar la IA a las masas teman por el futuro es significativo. Si bien creen que esta tecnología aún incipiente podría ofrecer “beneficios sin precedentes” a la humanidad, temen que el público (y los reguladores) no estén entendiendo el panorama completo.
“Las empresas de IA poseen sustancial información no pública sobre las capacidades y limitaciones de sus sistemas, la idoneidad de sus medidas de protección y los niveles de riesgo de diferentes tipos de daños. Sin embargo, actualmente sólo tienen obligaciones débiles de compartir parte de esta información con los gobiernos, y ninguna con la sociedad civil. No creemos que se pueda confiar en que todos lo compartirán voluntariamente”.
Derecho a advertir
Los paralelismos entre la inteligencia artificial y el espacio criptográfico son bastante marcados. Ambas industrias se mueven a una velocidad vertiginosa y son profundamente técnicas. Esto crea enormes obstáculos tanto para los gobiernos como para los reguladores. Por un lado, a algunos políticos les puede resultar difícil entender el tema en sí. Pregúntenle al representante de los Estados Unidos, Brad Sherman, quien se refirió infamemente al creador de Bitcoin como "Saratoshi Nagamoto".
https://twitter.com/guti_uno/status/1684383259025883137
A partir de aquí, resulta difícil preparar leyes alfabetizadas que fomenten la innovación entre los buenos actores y al mismo tiempo disuadan la criminalidad entre los malos. Y cuando las autoridades se han puesto al día, dichas industrias suelen ser tan irreconocibles que la legislación sobre la mesa no refleja las realidades de cómo se utiliza la tecnología... y dónde residen los mayores riesgos. Es revelador que todavía exista una parálisis regulatoria significativa con respecto a las criptomonedas en los EE. UU., más de 15 años después del lanzamiento de Bitcoin por primera vez.
Como se señala en la carta abierta centrada en la IA, la falta de una supervisión gubernamental eficaz significa que existe una enorme dependencia de los denunciantes dentro de las empresas para exigirles responsabilidades. Una de las mayores preocupaciones de los autores se relaciona con cómo los acuerdos de confidencialidad efectivamente les impiden hablar.
“Las protecciones ordinarias a los denunciantes son insuficientes porque se centran en actividades ilegales, mientras que muchos de los riesgos que nos preocupan aún no están regulados. Algunos de nosotros tememos razonablemente diversas formas de represalias”.
Derecho a advertir
Una vez más, aquí existe simetría entre la inteligencia artificial y las criptomonedas, como lo demuestra un informe reciente, profundo y condenatorio publicado por un examinador independiente encargado de investigar la implosión de FTX en 2022. En ese caso, se descubrió que seis denunciantes anónimos con información legítima Las preocupaciones se pagaron por una suma de 25 millones de dólares. A uno le dijeron que se disculpara con el ahora encarcelado director ejecutivo Sam Bankman-Fried, y terminó llegando a un acuerdo por 16 millones de dólares después de renunciar a su cargo.
Si bien la industria de la criptografía ha logrado avances prometedores para corregir errores del pasado luego de una serie de quiebras en los últimos años (BlockFi, Voyager y Celsius entre ellas), se podría argumentar que aún queda trabajo por hacer. Y eso hace que los cuatro compromisos que se piden a las empresas de IA en esta carta abierta sean especialmente aplicables al sector de activos digitales.
Hay una solicitud para que las principales empresas de inteligencia artificial se abstengan de aplicar cláusulas que prohíban las críticas de los empleados preocupados por los riesgos emergentes, y para que se introduzcan procedimientos anónimos para que las inquietudes puedan elevarse a las juntas directivas, los reguladores y los expertos. Algunas de las mayores controversias de las criptomonedas podrían haberse evitado si se hubieran implementado salvaguardias similares.
Y además de adoptar una cultura de crítica abierta, existe un llamado a los líderes en IA para que prometan que no tomarán represalias contra los trabajadores que divulguen información confidencial después de agotar todas las demás posibilidades de agravar un problema.
No está claro en qué medida esta carta abierta moverá la aguja en la búsqueda para regular la IA. Y hay algo que decir sobre la transparencia inherente de la tecnología blockchain, donde el flujo de fondos (y los registros de las transacciones) se pueden monitorear en tiempo real. Los grandes modelos lingüísticos, normalmente construidos a puerta cerrada, son mucho más opacos en comparación.
Pero las consecuencias de no actuar y los daños potenciales que enfrentan los consumidores cotidianos son igualmente nefastos en ambas industrias. Demasiados inversores en criptomonedas han perdido los ahorros de toda su vida porque no estaban adecuadamente informados sobre los riesgos, debido a una falta de coordinación entre los reguladores internacionales para evitar que los malos actores extraterritoriales queden sin control. Y a medida que la IA se vuelve más inteligente e intuitiva para el usuario cada día que pasa, ahora los medios de vida de millones de personas trabajadoras también podrían estar en peligro.
También te puede interesar: Kraken y Binance demandaron por 13.000 millones de dólares. ¿Por qué?
