Divulgación: Las opiniones y puntos de vista expresados aquí pertenecen únicamente al autor y no representan las opiniones y puntos de vista del equipo editorial de crypto.news.
La velocidad a la que la IA supera las normas plantea un riesgo para la verificación de datos, identidad y reputación y, si no se controla, puede aumentar la prevalencia de la desinformación y frenar el progreso de la innovación científica. La marcha hacia una IA superinteligente es representada por sus líderes más fervientes como un impulso hacia una edad de oro científica. Sin embargo, este impulso aumenta las posibilidades de un riesgo existencial de que nuestra sociedad llegue a una meseta tecnológica degradante en la que la adopción a gran escala de tecnología de IA inmadura limite y, con el tiempo, degrade la creatividad y la innovación humanas.
También te puede gustar: La votación ZKP promete desbloquear democracias matemáticamente seguras | Opinión
Esta es una opinión contradictoria a la de la mayoría de los aceleracionistas. Se supone que la IA debe aumentar nuestra capacidad para trabajar más rápido y sintetizar mayores cantidades de información. Sin embargo, la IA no puede reemplazar el razonamiento inductivo o el proceso experimental. Hoy en día, cualquiera puede usar IA para fabricar una hipótesis científica y usar eso como entrada para generar un artículo científico. Los resultados de productos como Aithor a menudo parecen autoritarios en la superficie y pueden incluso pasar la revisión por pares. Este es un gran problema porque los textos generados por IA ya están siendo curados como hallazgos científicos legítimos y a menudo incluyen datos fabricados falsos para respaldar sus afirmaciones. Existe un gran incentivo para que los jóvenes investigadores utilicen cualquier medio que tengan disponible para competir por un número limitado de trabajos académicos y oportunidades de financiamiento. El sistema de incentivos actual en la academia recompensa a aquellos que pueden publicar más artículos, ya sea que esos artículos describan hallazgos legítimos o no; solo necesitan pasar la revisión por pares y obtener suficientes citas.
El contenido académico con autoría no verificada también planteará un problema significativo para las industrias que dependen de la ciencia básica para impulsar su investigación y desarrollo, el mismo I+D que mantiene nuestra sociedad funcionando y mantiene la calidad de vida para una población global en crecimiento. Como resultado, el I+D bien financiado solo puede confiar en la investigación que es capaz de realizar y replicar por sí mismo, aumentando el valor de los secretos comerciales y asestando un golpe devastador a la ciencia abierta y al acceso a información significativa.
Los esfuerzos de replicación costosos pueden lidiar con la desinformación por sí solos, sin embargo, el problema es mucho más grande que eso. Hoy en día, estamos enfrentando una erosión de la confianza en los mismos fundamentos del conocimiento, donde las afirmaciones no verificables y las atribuciones ambiguas socavan los avances científicos, planteando una amenaza a la comunidad científica. Hay una necesidad urgente de establecer una economía basada en la verdad para autenticar contenido y datos de manera confiable.
Los sistemas de IA son tan poderosos como los datos con los que han sido entrenados.
Los modelos de lenguaje grande son herramientas excelentes para generar contenido convincente; sin embargo, son tan informativos como los datos en los que han sido entrenados. Su capacidad para extrapolar fuera del conjunto de entrenamiento sigue siendo limitada. El papel de la ciencia no es solo sintetizar el conocimiento existente, sino crear nuevos artefactos informativos que aumenten la entropía del corpus colectivo de conocimiento acumulado por la humanidad. Con el tiempo, a medida que más personas usen IA para generar contenido y menos personas generen contenido original, enfrentaremos una 'inflación de baja entropía' que no introduce nueva información al mundo, sino que simplemente recombina el conocimiento pasado. Las fuentes primarias se perderán a medida que el nuevo 'conocimiento' se base en contenido generado por IA autorreferencial, a menos que construyamos una capa de procedencia resistente y atribución verificada en las herramientas de IA utilizadas para investigaciones serias.
Esta 'lobotomización' de la profundidad intelectual del corpus humano colectivo tendrá impactos duraderos en la investigación médica, económica y académica, así como en las artes y las actividades creativas. Los datos no verificados pueden influir en estudios, sesgando resultados y llevando a importantes fallos en políticas o tecnologías que erosionan la autoridad de la investigación científica. Los riesgos de la 'ciencia' generada por IA son múltiples. La operación mundana de la ciencia normal se detendrá en debates sobre autoría, acusaciones de plagio y revisión por pares afectada. Necesitaremos dedicar más tiempo y energía para abordar las muchas consecuencias de la disminución de la calidad y precisión de la investigación científica.
La IA es una herramienta útil para provocar ideas, estructurar pensamientos y automatizar tareas repetitivas; debe seguir siendo un complemento del contenido creado por humanos y no un reemplazo. No debería usarse para redactar artículos científicos que propongan hallazgos originales sin hacer el trabajo, sino más bien como una ayuda para aumentar la eficiencia y la precisión de los esfuerzos liderados por humanos. Por ejemplo, la IA puede ser útil para ejecutar simulaciones sobre datos existentes con métodos ya conocidos y automatizar este trabajo para ayudar a descubrir nuevas direcciones de investigación. Sin embargo, el protocolo experimental y la creatividad humana requeridos para la investigación científica no pueden ser reemplazados fácilmente.
Construyendo una economía basada en la verdad
Una economía basada en la verdad establece un marco con sistemas y estándares para asegurar la autenticidad, integridad, transparencia y trazabilidad de la información y los datos. Aborda la necesidad de establecer confianza y verificabilidad a través de la sociedad tecnológica, permitiendo a individuos y organizaciones confiar en la precisión del conocimiento compartido. El valor se basa en la veracidad de las afirmaciones y la autenticidad de las observaciones y fuentes primarias. Una economía basada en la verdad hará que el conocimiento digital sea 'duro' de la misma manera que Bitcoin hizo que el fiat fuera duro. Esta es la promesa del movimiento de ciencia descentralizada.
¿Cómo llegamos allí? Necesitamos comenzar con el elemento más importante en el mundo científico, el investigador individual y su trabajo. Los estándares web actuales para la identidad científica hoy en día son insuficientes para verificar afirmaciones sobre identidad y prueba de trabajo. La práctica actual facilita mucho la fabricación de un perfil con una reputación aceptable; las revisiones por pares también están en riesgo debido al sesgo y la colusión. Sin la verificación de los metadatos que acompañan una afirmación científica, no se puede establecer una economía basada en la verdad para la ciencia.
La mejora de los estándares de identidad académica puede comenzar con un simple inicio de sesión multiplataforma impulsado por tecnología de verificación de identidad que preserve la privacidad. Los usuarios deberían poder iniciar sesión en cualquier sitio con sus credenciales, probar autenticidad y divulgar selectivamente hechos sobre su reputación, datos u otros agentes o usuarios.
Una capa de identidad que esté arraigada en la reputación verificable de un investigador es la base fundamental de DeSci. Una economía científica completamente en cadena permitirá la participación pública y anónima en la coordinación masiva en línea para actividades de investigación. Los laboratorios de investigación y las organizaciones autónomas descentralizadas pueden crear sistemas sin permisos y programas de recompensas que no pueden ser manipulados por reputaciones o afirmaciones de identidad fraudulentas. Un registro científico universal asegurado en blockchain con afirmaciones de identidad proporcionaría un marco de referencia para organizaciones autónomas construidas para acumular conocimiento científico verificable y probar hipótesis falsables.
Protegiendo el futuro del progreso humano
Necesitamos establecer los fundamentos de la verdad a través de la transparencia de la información y la verificación rigurosa para evitar un colapso de la confianza dentro de los campos de investigación experta. Las posibilidades de que nuestro progreso colectivo continúe durante cientos de años más, desbloqueando sucesivas revoluciones científicas en ciencia de materiales, biotecnología, neurociencia y ciencia de la complejidad, dependerán de la curaduría de investigación de calidad y datos sólidos. Esta será la diferencia entre una sociedad futura que sea tan avanzada como lo somos en comparación con las sociedades anteriores a la ilustración. De lo contrario, tendremos que esperar que esto sea lo más inteligentes que seamos como especie, y solo nos volveremos más tontos. No está claro si DeSci nos salvará o no, pero hay un tiempo limitado para hacer las cosas bien.
Lee más: La ciencia descentralizada está modernizando sistemas obsoletos | Opinión
Autor: Shady El Damaty
Shady El Damaty es el cofundador de la Fundación Holonym, que busca una solución para la personalidad universal y el acceso digital seguro con un protocolo de identidad descentralizado construido sobre la magia de las pruebas de cero conocimiento. En 2020, fundó OpSci, la primera organización de ciencia descentralizada, o DeSci para abreviar. Antes de su carrera en cripto, Shady obtuvo su doctorado en neurociencia de la Universidad de Georgetown, Washington, D.C., Estados Unidos.