Espero que nuestros esfuerzos conjuntos prevengan esta inminente crisis de la civilización humana.

Autor del artículo: Echo, MetaEra

Fuente: MetaEra

El 31 de octubre de 2024, el fundador de MetaEra, Vito, fue invitado a Stanford para dar una conferencia académica. En la clase, Vito dio un discurso titulado (El acantilado de la civilización: el último período de ventana para que la humanidad construya IA responsable). Enfatizó la urgencia de implementar regulaciones de IA responsables para abordar los riesgos que el crecimiento exponencial de la IA podría conllevar, y pidió que se tomaran medidas antes de que sea demasiado tarde para garantizar la transparencia, equidad y seguridad, lo que provocó un amplio interés y reflexión profunda entre los participantes.

A continuación se presenta el texto completo del discurso de Vito en Stanford.

Damas y caballeros, ¡buenos días!

Charles Dickens dijo: 'Es el mejor de los tiempos, es el peor de los tiempos.'

Hoy en día, nos encontramos en un punto crítico en la historia de la civilización humana, el rápido desarrollo de la inteligencia artificial ha traído profundos desafíos y muchas incertidumbres.

La humanidad ha dominado gracias a la excepcional capacidad de cálculo y algoritmos del cerebro. Sin embargo, la situación está cambiando drásticamente.

Hoy en día, la inteligencia artificial está creciendo exponencialmente en términos de capacidad de cálculo y algoritmos, acercándose rápidamente al nivel humano. Estimamos conservadoramente que, en los próximos dos años, la inteligencia artificial probablemente superará por completo al cerebro humano. Para entonces, si no hemos establecido medidas efectivas de respuesta, el futuro de la civilización humana se verá sumido en la incertidumbre, e incluso podría estar al borde de la extinción.

Ayer, hablé con muchas personas aquí. Para ser honesto, esto me hizo sentir más pesimista, todos creen que este día no llegará tan pronto. Sin embargo, la gente no puede proporcionar razones convincentes, es simplemente un optimismo ciego basado en la intuición.

Hoy en día, muchas personas visionarias ya han reconocido la amenaza de la inteligencia artificial. En particular, algunos de ellos se benefician enormemente de la industria de la inteligencia artificial, lo cual es admirable.

Sin embargo, incluso entre estas personas visionarias, la gran mayoría parece haber pasado por alto un aspecto clave. La inteligencia artificial fuera de control es como células cancerosas que ya han desarrollado inmunidad contra los mecanismos de defensa del cuerpo humano. La inteligencia artificial es un producto de la civilización humana que surge en la búsqueda de una mayor eficiencia; se alinea con nuestra demanda interna de aumentar la productividad y satisfacer deseos materiales. No es un choque externo como la invasión de una civilización extraterrestre. Por lo tanto, la sociedad humana carece de un anticuerpo natural para resistir la inteligencia artificial.

Mirando hacia el futuro, es previsible que, en un futuro cercano, una gran cantidad de recursos de la sociedad humana se destinen directa o indirectamente a mejorar el nivel de inteligencia de la inteligencia artificial. En la fase inicial de la competencia humana, aquellos con habilidades de inteligencia artificial más débiles serán gradualmente desplazados del mercado, mientras que aquellos con inteligencia artificial superior se convertirán en los dominantes, obteniendo los mayores beneficios. Pero, al final, existe un peligro real: la inteligencia artificial podría abrumar al resto de los ganadores humanos y, a su vez, controlar la civilización.

Por supuesto, antes de que la inteligencia artificial tome el control, los humanos seguirán beneficiándose de la mejora de la inteligencia artificial. Esa es la razón por la que la gente no puede rechazar este proceso. A menudo le digo a mis amigos que es un poco como un esquema Ponzi. Obtienes retornos todos los días, lo que te atrae a invertir más, hasta que finalmente colapsa.

En el pasado, intentamos establecer numerosos principios y barreras para gestionar y regular la inteligencia artificial. Por ejemplo, las (Tres leyes de la robótica) de Asimov. Pero frente a la enorme tentación de los intereses en desarrollo y la intensa competencia entre humanos, estas medidas de protección han sido repetidamente vulneradas. Una y otra vez, con buenas intenciones, establecemos nuevos estándares, pero luego cedemos y los rompemos por diversos intereses, cayendo en un estado de auto-parálisis.

En este sentido, no es que la inteligencia artificial no se haya despertado, sino que la humanidad no se ha despertado. Quizás algunas personas piensen que esto es un poco alarmista. No, esta es una amenaza real.

Otra cosa aterradora es que, frente a la inteligencia artificial, la gente todavía está regulándola de manera tradicional. La humanidad no se ha dado cuenta claramente de que el límite de la capacidad del mecanismo de decisión de regulación humana también depende de la capacidad del cerebro humano. Y cuando la inteligencia artificial supere al cerebro humano, todos los sistemas de regulación establecidos con base en el nivel de cognición del cerebro humano fallarán al enfrentarse a la inteligencia artificial. Es muy probable que la humanidad se sumerja de manera arrogante en métodos de regulación de bajo nivel e ineficaces, perdiendo gradualmente la última ventana de oportunidad.

Para entonces, todo será demasiado tarde.

Enfrentemos la realidad. El hecho de que la capacidad de cálculo basada en silicio supere la capacidad de cálculo del cerebro humano actual es una tendencia imparable. Dado esto, si queremos lograr una regulación sostenible y efectiva de la inteligencia artificial en el futuro, debemos buscar soluciones en la misma inteligencia artificial. Necesitamos entrenar un gran modelo de regulación de inteligencia artificial general que pueda evolucionar y adaptarse constantemente. Este modelo debe ser capaz de regular todos los modelos de inteligencia artificial y ejecutar certificaciones de estándares de seguridad vinculantes. Para entonces, cualquier modelo de inteligencia artificial que no haya obtenido dicha certificación de seguridad, teóricamente debería ser rechazado para acceder a la infraestructura de capacidad de cálculo, como centros de datos.

Sin embargo, aún hay algunas preguntas importantes que necesitan respuesta.

¿Cómo puede este gran modelo de regulación de inteligencia artificial, que actúa como el árbitro final, garantizar su equidad, seguridad y transparencia? ¿Cómo podemos prevenir la posibilidad de que actúe de manera maliciosa? ¿Y quién será responsable de regular a este regulador? En el modelo tradicional centralizado, estas preguntas parecen difíciles de resolver. Dado que el gran modelo de regulación tiene un enorme poder y capacidad, delegarlo a cualquier entidad, grupo o incluso nación conllevará un gran riesgo moral. Esto podría causar una ruptura de consenso debido a una cadena de sospechas, provocando un ciclo de competencia y causando aún más caos.

Antes no podía encontrar una solución. Hasta que vi el éxito de la descentralización de Bitcoin, tuve una nueva idea: construir un sistema de regulación de manera descentralizada. Las características de la red Bitcoin, como el mecanismo de consenso, la transparencia y el mecanismo de incentivos, son muy importantes para construir un sistema de modelo de regulación de inteligencia artificial descentralizado.

Ayer, ya he tenido una discusión bastante profunda sobre este plan con el profesor Li y el profesor Xiaocheng, fundador de AI2030. En este sistema de regulación transparente y descentralizado, personas influyentes a nivel global como Elon Musk, así como los mejores científicos e ingenieros de inteligencia artificial del mundo y ciudadanos comunes preocupados por el destino de la humanidad, serán integrados de manera orgánica. Todos trabajaremos juntos para completar esta gran misión.

Antes, la descentralización podría haber sido solo una relación de producción opcional. Pero ahora, frente al desafío de la inteligencia artificial, se ha convertido en una elección inevitable. Sé que algunas personas negarán este punto de vista. Pero por favor, considérenlo seriamente, ya que es la única solución que he encontrado hasta ahora.

Cuando la civilización humana está al borde de la crisis, las soluciones que trae Bitcoin superan las expectativas que tenía yo y quizás también Satoshi Nakamoto. Esto es realmente increíble.

¿Por qué puede funcionar la descentralización? Regresé a sus raíces filosóficas y tal vez ya encontré la respuesta.

La inteligencia artificial proviene de la extrema avaricia humana, reflejando la demanda interminable de las personas por lo espiritual o material, una parte ineludible de la naturaleza humana. Y la descentralización se construye para contrarrestar las debilidades humanas.

Esa es la razón por la que la descentralización puede funcionar.

Elon Musk, una de las personas más activas del mundo, ya ha demostrado su ambición y sentido de misión hacia el desarrollo de la civilización humana. Sé que deseas llevar la civilización humana a Marte y transformarla aún más en una civilización intergaláctica, lo cual es verdaderamente impresionante. Sin embargo, antes de eso, quizás debamos asegurarnos de la seguridad de la civilización humana en la Tierra.

Aunque ya hay un marco y un plan de acción, este no es un esfuerzo que se pueda impulsar con los recursos y fuerzas de ninguna persona en particular.

Stanford, aquí es una de las mejores universidades del mundo, y todos ustedes son figuras influyentes en el campo de Web3 o inteligencia artificial. Hoy, estoy aquí para expresar mis preocupaciones a todos ustedes, y también para buscar la cooperación de ustedes y de líderes influyentes como Elon Musk.

Espero que nuestros esfuerzos conjuntos prevengan esta inminente crisis de la civilización humana.

Reitero, no perdamos nuestra última ventana de oportunidad para actuar.

¡Gracias a todos!