La inteligencia artificial (IA) está revolucionando varios sectores al mejorar las capacidades de procesamiento de datos y toma de decisiones más allá de los límites humanos. Sin embargo, a medida que los sistemas de IA se vuelven más sofisticados, se vuelven cada vez más opacos, lo que genera preocupaciones sobre la transparencia, la confianza y la equidad. 

La naturaleza de “caja negra” típica de la mayoría de los sistemas de IA a menudo deja a las partes interesadas cuestionando los orígenes y la confiabilidad de los resultados generados por la IA. En respuesta, han surgido tecnologías como la IA explicable (XAI) que buscan desmitificar las operaciones de la IA, aunque a menudo no logran aclarar completamente sus complejidades.

A medida que las complejidades de la IA continúan evolucionando, también lo hace la necesidad de mecanismos sólidos para garantizar que estos sistemas no solo sean efectivos sino también confiables y justos. Ingrese a la tecnología blockchain, conocida por su papel fundamental en la mejora de la seguridad y la transparencia a través del mantenimiento de registros descentralizado.

Blockchain tiene potencial no sólo para asegurar transacciones financieras sino también para dotar a las operaciones de IA de una capa de verificabilidad que antes había sido difícil de lograr. Tiene el potencial de abordar algunos de los desafíos más persistentes de la IA, como la integridad de los datos y la trazabilidad de las decisiones, lo que la convierte en un componente crítico en la búsqueda de sistemas de IA transparentes y confiables.

Chris Feng, director de operaciones de Chainbase, ofreció sus ideas sobre el tema en una entrevista con crypto.news. Según Feng, si bien la integración de blockchain puede no resolver directamente todas las facetas de la transparencia de la IA, mejora varias áreas críticas.

¿Puede la tecnología blockchain realmente mejorar la transparencia en los sistemas de IA?

La tecnología Blockchain no resuelve el problema central de la explicabilidad de los modelos de IA. Es crucial diferenciar entre interpretabilidad y transparencia. La razón principal de la falta de explicabilidad de los modelos de IA radica en la naturaleza de caja negra de las redes neuronales profundas. Aunque comprendemos el proceso de inferencia, no comprendemos el significado lógico de cada parámetro involucrado.

Entonces, ¿cómo mejora la tecnología blockchain la transparencia de maneras que difieren de las mejoras de interpretabilidad que ofrecen tecnologías como la IA explicable (XAI) de IBM?

En el contexto de la IA explicable (XAI), se emplean varios métodos, como las estadísticas de incertidumbre o el análisis de los resultados y gradientes de los modelos, para comprender su funcionalidad. Sin embargo, la integración de la tecnología blockchain no altera el razonamiento interno ni los métodos de entrenamiento de los modelos de IA y, por lo tanto, no mejora su interpretabilidad. Sin embargo, blockchain puede mejorar la transparencia de los datos de capacitación, los procedimientos y la inferencia causal. Por ejemplo, la tecnología blockchain permite el seguimiento de los datos utilizados para la capacitación de modelos e incorpora los aportes de la comunidad en los procesos de toma de decisiones. Todos estos datos y procedimientos se pueden registrar de forma segura en la cadena de bloques, mejorando así la transparencia de los procesos de construcción e inferencia de los modelos de IA.

Teniendo en cuenta el problema generalizado del sesgo en los algoritmos de IA, ¿qué tan eficaz es blockchain para garantizar la procedencia y la integridad de los datos durante todo el ciclo de vida de la IA?

Las metodologías actuales de blockchain han demostrado un potencial significativo para almacenar y proporcionar de forma segura datos de entrenamiento para modelos de IA. La utilización de nodos distribuidos mejora la confidencialidad y la seguridad. Por ejemplo, Bittensor emplea un enfoque de entrenamiento distribuido que distribuye datos entre múltiples nodos e implementa algoritmos para evitar el engaño entre los nodos, aumentando así la resiliencia del entrenamiento del modelo de IA distribuido. Además, es fundamental proteger los datos del usuario durante la inferencia. Ritual, por ejemplo, cifra los datos antes de distribuirlos a nodos fuera de la cadena para realizar cálculos de inferencia.

También te puede interesar: La inteligencia artificial puede agregar una nueva dimensión a los criptodelitos, dice Elliptic

¿Existe alguna limitación para este enfoque?

Una limitación notable es la supervisión del sesgo del modelo derivado de los datos de entrenamiento. Específicamente, con frecuencia se descuida la identificación de sesgos en las predicciones de los modelos relacionados con el género o la raza resultantes de los datos de entrenamiento. Actualmente, ni las tecnologías blockchain ni los métodos de eliminación de sesgos de modelos de IA apuntan y eliminan eficazmente los sesgos mediante técnicas de explicabilidad o eliminación de sesgos.

¿Cree que blockchain puede mejorar la transparencia de las fases de prueba y validación del modelo de IA?

Empresas como Bittensor, Ritual y Santiment están utilizando la tecnología blockchain para conectar contratos inteligentes dentro de la cadena con capacidades informáticas fuera de la cadena. Esta integración permite la inferencia en cadena, lo que garantiza la transparencia entre los datos, los modelos y la potencia informática, mejorando así la transparencia general durante todo el proceso.

¿Qué mecanismos de consenso cree que son los más adecuados para que las redes blockchain validen las decisiones de IA?

Personalmente, abogo por la integración de los mecanismos de Prueba de participación (PoS) y Prueba de autoridad (PoA). A diferencia de la informática distribuida convencional, los procesos de inferencia y entrenamiento de IA exigen recursos de GPU consistentes y estables durante períodos prolongados. Por tanto, es imperativo validar la eficacia y fiabilidad de estos nodos. Actualmente, los recursos informáticos confiables se encuentran principalmente en centros de datos de diversas escalas, ya que es posible que las GPU de consumo no admitan suficientemente los servicios de inteligencia artificial en la cadena de bloques.

De cara al futuro, ¿qué enfoques creativos o avances en la tecnología blockchain cree que serán fundamentales para superar los desafíos actuales de transparencia en la IA y cómo podrían remodelar el panorama de la confianza y la responsabilidad de la IA?

Veo varios desafíos en las aplicaciones actuales de IA basadas en blockchain, como abordar la relación entre la eliminación de sesgos del modelo y los datos y aprovechar la tecnología blockchain para detectar y mitigar los ataques de caja negra. Estoy explorando activamente formas de incentivar a la comunidad para que realice experimentos sobre la interpretabilidad de los modelos y mejore la transparencia de los modelos de IA. Además, estoy contemplando cómo blockchain puede facilitar la transformación de la IA en un verdadero bien público. Los bienes públicos se definen por la transparencia, el beneficio social y el servicio al interés público. Sin embargo, las tecnologías de IA actuales suelen existir entre proyectos experimentales y productos comerciales. Al emplear una red blockchain que incentive y distribuya valor, podemos catalizar la democratización, la accesibilidad y la descentralización de la IA. Este enfoque podría potencialmente lograr transparencia ejecutable y fomentar una mayor confiabilidad en los sistemas de IA.

Leer más: Binance aprovecha la inteligencia artificial (IA) para mejorar la educación web3