Một phần điều kỳ diệu của Generative AI là hầu hết mọi người không biết nó hoạt động như thế nào. Ở một mức độ nhất định, công bằng mà nói thì không ai hoàn toàn chắc chắn về cách thức hoạt động của nó, vì hoạt động bên trong của ChatGPT có thể khiến các nhà khoa học sáng giá nhất bối rối. Đó là một hộp đen. Chúng tôi không hoàn toàn chắc chắn về cách nó được đào tạo, dữ liệu nào tạo ra kết quả nào và IP nào đang bị chà đạp trong quá trình này. Đây vừa là một phần của phép thuật vừa là một phần của điều đáng sợ. Ariana Spring là diễn giả tại Lễ hội đồng thuận năm nay, ở Austin, Texas, từ ngày 29 đến 31 tháng 5.
Điều gì sẽ xảy ra nếu có một cách để nhìn vào bên trong hộp đen, cho phép hình dung rõ ràng về cách AI được quản lý, đào tạo và sản xuất? Đây là mục tiêu — hoặc một trong những mục tiêu — của Phòng thí nghiệm EQTY, nơi tiến hành nghiên cứu và tạo ra các công cụ giúp các mô hình AI trở nên minh bạch và hợp tác hơn. Ví dụ: Lineage Explorer của EQTY Lab cung cấp chế độ xem thời gian thực về cách xây dựng mô hình.
Tất cả những công cụ này đều nhằm mục đích kiểm tra độ mờ đục và sự tập trung. Ariana Spring, Trưởng phòng Nghiên cứu tại EQTY Lab, cho biết: “Nếu bạn không hiểu tại sao AI lại đưa ra quyết định mà nó đưa ra hoặc ai chịu trách nhiệm, thì thực sự rất khó để thẩm vấn lý do tại sao những thứ có hại lại được phun ra”. “Vì vậy, tôi nghĩ việc tập trung hóa – và giữ những bí mật đó trong hộp đen – thực sự nguy hiểm.”
Với sự tham gia của đồng nghiệp Andrew Stanco (người đứng đầu bộ phận tài chính), Spring chia sẻ cách tiền điện tử có thể tạo ra AI minh bạch hơn, cách các công cụ này đã được triển khai để phục vụ khoa học biến đổi khí hậu và lý do tại sao các mô hình nguồn mở này có thể mang tính toàn diện hơn và đại diện cho nhân loại nói chung.
Cuộc phỏng vấn đã được cô đọng và chỉnh sửa nhẹ cho rõ ràng.
Tầm nhìn và mục tiêu của EQTY Lab là gì?
Ariana Spring: Chúng tôi đang tiên phong đưa ra các giải pháp mới để xây dựng niềm tin và sự đổi mới trong AI. Và AI có tính sáng tạo hiện đang là chủ đề nóng và đó là đặc tính nổi bật nhất, vì vậy đó là điều mà chúng tôi đang tập trung vào.
Nhưng chúng tôi cũng xem xét tất cả các loại quản lý dữ liệu và AI khác nhau. Và niềm tin thực sự và sự đổi mới là nơi chúng tôi hướng tới. Chúng tôi làm điều đó bằng cách sử dụng mật mã tiên tiến để làm cho các mô hình trở nên minh bạch hơn nhưng cũng mang tính hợp tác hơn. Chúng tôi coi tính minh bạch và hợp tác là hai mặt của cùng một xu hướng tạo ra AI thông minh hơn và an toàn hơn.
Bạn có thể nói thêm một chút về cách tiền điện tử phù hợp với điều này không? Bởi vì bạn thấy nhiều người nói rằng “Tiền điện tử và AI rất phù hợp”, nhưng lý do thường dừng lại ở mức rất cao.
Andrew Stanco: Tôi nghĩ sự giao thoa giữa AI và tiền điện tử là một câu hỏi mở, phải không? Một điều chúng tôi đã tìm thấy là bí mật tiềm ẩn về AI là nó có tính cộng tác; nó có vô số bên liên quan. Không một nhà khoa học dữ liệu nào có thể tạo ra một mô hình AI. Họ có thể đào tạo nó, họ có thể tinh chỉnh nó, nhưng mật mã trở thành một cách để thực hiện điều gì đó và sau đó có một cách chống giả mạo để xác minh rằng điều đó đã xảy ra.
Vì vậy, trong một quy trình phức tạp như đào tạo AI, việc có những chứng thực chống giả mạo và có thể xác minh đó - cả trong quá trình đào tạo và sau đó - thực sự hữu ích. Nó tạo ra sự tin cậy và khả năng hiển thị.
Ariana Spring: Những gì chúng tôi làm là ở mỗi bước của vòng đời và quy trình đào tạo AI, đều có một bản công chứng — hoặc một con dấu — về những gì đã xảy ra. Đây là ID phi tập trung hoặc số nhận dạng được liên kết với tác nhân hoặc con người hoặc máy móc đang thực hiện hành động đó. Bạn có dấu thời gian. Và với Lineage Explorer của chúng tôi, bạn có thể thấy mọi thứ chúng tôi làm đều được đăng ký tự động bằng mật mã.
Và sau đó chúng tôi sử dụng hợp đồng thông minh trong các sản phẩm quản trị của mình. Vì vậy, nếu tham số X được đáp ứng hoặc không được đáp ứng, một hành động nhất định có thể được tiến hành hoặc không được tiếp tục. Một trong những công cụ mà chúng tôi có là Governance Studio, về cơ bản nó lập trình cách bạn có thể đào tạo AI hoặc cách bạn có thể quản lý vòng đời AI của mình và điều đó sau đó sẽ được phản ánh xuống.
Bạn có thể làm rõ một chút về loại công cụ bạn đang xây dựng không? Ví dụ: bạn đang xây dựng các công cụ và thực hiện nghiên cứu nhằm giúp các công ty khởi nghiệp khác xây dựng mô hình đào tạo hay bạn đang tự xây dựng mô hình đào tạo? Nói cách khác, chính xác thì vai trò của EQTY Labs trong môi trường này là gì?
Andrew Stanco: Theo một cách nào đó, đó là một sự kết hợp vì trọng tâm của chúng tôi là doanh nghiệp, vì đó sẽ là một trong những nơi lớn đầu tiên mà bạn cần có được AI chính xác từ quan điểm đào tạo và quản trị. Nếu bạn tìm hiểu sâu hơn về vấn đề đó thì chúng ta cần có một khu vực mà nhà phát triển—hoặc ai đó trong tổ chức đó— có thể chú thích mã và nói: “Được rồi, đây là điều đã xảy ra” rồi tạo một bản ghi. Nó tập trung vào doanh nghiệp, tập trung vào việc làm việc với các nhà phát triển cũng như những người xây dựng và triển khai các mô hình.
Ariana Spring: Và chúng tôi cũng đã nỗ lực đào tạo người mẫu thông qua Quỹ Thông tin Khí hậu. Chúng tôi đã giúp đào tạo một mô hình có tên ClimateGPT, một mô hình ngôn ngữ lớn dành riêng cho khí hậu. Đó không phải là bánh mì và bơ của chúng tôi, nhưng chúng tôi đã trải qua quá trình này và sử dụng bộ công nghệ của mình để trực quan hóa quy trình đó. Vì vậy, chúng tôi hiểu nó như thế nào.
Điều gì khiến bạn phấn khích nhất về AI và điều gì khiến bạn sợ hãi nhất về AI?
Andrew Stanco: Ý tôi là, để gây phấn khích, khoảnh khắc đầu tiên khi bạn tương tác với AI tổng hợp có cảm giác như bạn đã mở nút tia sét trong mô hình. Lần đầu tiên bạn tạo lời nhắc trong MidJourney hoặc khi bạn hỏi ChatGPT một câu hỏi, không ai phải thuyết phục bạn rằng có thể nó rất mạnh mẽ. Và tôi không nghĩ còn có nhiều điều mới mẻ nữa phải không?
Và đối với khủng bố?
Andrew Stanco: Tôi nghĩ đây là mối lo ngại có thể là ẩn ý cho rất nhiều điều sẽ diễn ra tại Đồng thuận, chỉ bằng cách xem qua chương trình nghị sự. Điều đáng lo ngại là những công cụ này đang cho phép những người chiến thắng hiện tại đào sâu hơn các chế độ. Rằng đây không hẳn là một công nghệ đột phá mà là một công nghệ cố thủ.
Và Ariana, sự phấn khích và kinh hoàng về AI chính của bạn?
Ariana Spring: Tôi sẽ bắt đầu với nỗi sợ hãi của mình vì tôi cũng định nói điều gì đó tương tự. Tôi muốn nói là tập trung hóa. Chúng tôi đã thấy tác hại của việc tập trung hóa khi kết hợp với sự thiếu minh bạch về cách thức hoạt động của một thứ gì đó. Ví dụ, chúng ta đã thấy điều này trong 10, 15 năm qua với mạng xã hội. Và nếu bạn không hiểu tại sao AI lại đưa ra quyết định mà nó đưa ra hoặc ai chịu trách nhiệm, thì thực sự rất khó để thẩm vấn lý do tại sao những thứ có hại lại được thải ra. Vì vậy, tôi nghĩ việc tập trung hóa – và giữ những bí mật đó trong hộp đen – thực sự nguy hiểm.
Còn sự phấn khích thì sao?
Điều tôi hào hứng nhất là thu hút nhiều người tham gia hơn. Chúng tôi đã có cơ hội làm việc với nhiều loại nhóm bên liên quan khác nhau khi chúng tôi đào tạo ClimateGPT, chẳng hạn như nhóm người già bản địa hoặc thanh niên có thu nhập thấp, thành thị, Da đen và da nâu, hoặc sinh viên ở Trung Đông. Chúng tôi đang làm việc với tất cả các nhà hoạt động và học giả về khí hậu này để nói rằng, "Này, bạn có muốn giúp làm cho mô hình này tốt hơn không?"
Mọi người thực sự rất hào hứng nhưng có lẽ họ chưa hiểu nó hoạt động như thế nào. Sau khi chúng tôi dạy họ cách hoạt động và cách họ có thể trợ giúp, bạn có thể thấy họ nói: "Ồ, điều này tốt đấy." Họ có được sự tự tin. Sau đó, họ muốn đóng góp nhiều hơn. Vì vậy, tôi thực sự rất vui mừng, đặc biệt là thông qua công việc chúng tôi đang thực hiện tại EQTY Research, để bắt đầu xuất bản một số khung đó, để chúng tôi không cần phải dựa vào những hệ thống có thể không mang tính đại diện đó.
Đẹp đẽ nói. Hẹn gặp bạn ở Austin tại Hội nghị thượng đỉnh AI của Consensus.