Các chuyên gia AI cảnh báo rằng AI đã chết, hay việc hồi sinh kỹ thuật số của người đã khuất sắp trở thành hiện thực. Vì vậy, cần phải có quy định về vấn đề này để người dân không bị tổn hại về mặt tâm lý do bị người sáng tạo, sử dụng “ám ảnh”.
Một ví dụ về các dịch vụ như vậy, có khả năng về mặt công nghệ và được pháp luật cho phép, sẽ cho phép tạo ra các chatbot sử dụng các cuộc trò chuyện đã lưu với người bị mất để “gọi lại cho bà” với ý nghĩa hiểu được cảm xúc của mọi người sau khi nghe những cuộc thảo luận như vậy, như Đại học đã nêu. của các nhà khoa học Cambridge
Nghiên cứu cho biết một số công ty cung cấp dịch vụ theo cách gợi nhớ đến tập phim Black Mirror "Be Right Back", cho phép chatbot bắt chước các mẫu ngôn ngữ và đặc điểm tính cách của người đã khuất bằng cách sử dụng dấu vết kỹ thuật số mà họ để lại.
Các quy định an toàn được thúc đẩy để bảo vệ phẩm giá kỹ thuật số
Nghiên cứu được công bố trên tạp chí Philosophy and Technology đưa ra các ví dụ về cách các công ty có thể sử dụng deadbot, chẳng hạn như để quảng cáo sản phẩm cho một người theo cách tương tự như quảng cáo cho người thân đã khuất hoặc để gây chấn thương cho trẻ em bằng cách tuyên bố rằng cha mẹ đã khuất "ở bên bạn".
Tuy nhiên, trong mọi trường hợp, các công ty không đáng tin cậy và các sáng kiến kinh doanh liều lĩnh có thể gây ra tổn thương tâm lý lâu dài và vi phạm quyền của người đã khuất, bài báo cho biết.
Các nhà nghiên cứu cho rằng các tương tác hàng ngày diễn ra với sức nặng cảm xúc áp đảo. Họ khẳng định rằng sự hỗ trợ về mặt cảm xúc như vậy cũng có thể cản trở quá trình đau buồn, một cách tự nhiên để đối phó với mất mát.
Một bãi mìn đạo đức
Tiến sĩ Katarzyna Nowaczyk-Basińska, một trong những đồng tác giả của nghiên cứu tại Trung tâm Leverhulme về Tương lai của Trí thông minh (LCFI) của Cambridge, tuyên bố: “Những tiến bộ nhanh chóng trong AI tạo ra nghĩa là hầu như bất kỳ ai có quyền truy cập internet và một số hiểu biết cơ bản đều có thể hồi sinh người thân đã khuất”.
Lĩnh vực AI này có vẻ như là một bãi mìn đạo đức. Điều quan trọng nhất cần làm là đảm bảo rằng phẩm giá của người đã khuất không bị xâm phạm bởi các dịch vụ vì lợi nhuận như nhà cung cấp dịch vụ hậu sự kỹ thuật số chẳng hạn. Vấn đề chính có thể phát sinh từ các doanh nghiệp sẽ thương mại hóa cơ sở hạ tầng di sản trực tuyến của họ thông qua quảng cáo.
Việc để trẻ em tham gia vào quá trình này đặc biệt nguy hiểm vì chúng có thể phải đối mặt với kết quả tồi tệ nhất. Sự đồng hành dưới hình thức 'deadbots' có thể sớm trở nên cần thiết đối với các bậc cha mẹ muốn an ủi những đứa con vừa mất mẹ hoặc cha.
Tác động đến quá trình đau buồn
Tuy nhiên, không có nghiên cứu nào có thể chỉ ra tính phù hợp của những nỗ lực như vậy, điều này khiến người ta phải nghĩ đến tác động có thể rất khó chịu của chúng, chưa kể đến việc chúng có thể ảnh hưởng tiêu cực đến quá trình tang lễ thông thường.
Theo bài nghiên cứu, “Không có dịch vụ giải trí nào có thể chứng minh rằng việc cho phép trẻ em tương tác với ‘deadbot’ là có lợi hoặc ít nhất là không gây hại cho nhóm dễ bị tổn thương này”.
Để đảm bảo phẩm giá của người chết và sức khỏe tâm lý của người sống, các nhà nghiên cứu đề xuất một loạt các biện pháp tốt nhất có thể được áp dụng thậm chí đến mức phải ban hành luật để quản lý họ.
Những nền tảng đó cần các giao thức để "cho nghỉ hưu" các bot chết, giới hạn các chức năng tương tác của chúng chỉ dành cho người lớn, thừa nhận những hạn chế của bất kỳ thực thể nhân tạo nào đang hoạt động đầy đủ và phải rất minh bạch với khách hàng.
Phạm vi toàn cầu và ứng dụng đa dạng
Theo các nhà nghiên cứu, có một số nền tảng cho phép tạo hình ảnh người chết bằng AI với chi phí khiêm tốn. Ví dụ, có Project December, ban đầu sử dụng mô hình GPT và sau đó sử dụng hệ thống của họ, và cũng có các ứng dụng như Hereafter.
Tương tự như vậy, có những đối tác Trung Quốc có cùng dịch vụ được chỉ ra trong nghiên cứu. Năm 2021, Joshua Barbeau đã nhận được sự chú ý của công chúng khi anh sử dụng GPT-3 để phát triển một chatbot nói bằng giọng nói của bạn gái đã mất của anh. Năm 2015, Eugenia Kuyda đã biến các tin nhắn của người bạn đã mất của mình thành một chatbot, lần lượt nhường chỗ cho ứng dụng đồng hành AI phổ biến nhất có tên là Replika.
Công nghệ này cũng không chỉ giới hạn ở chatbot. MyHeritage, trang web phả hệ, năm 2021 đã mang đến Deep Nostalgia, một tính năng tạo video hoạt hình từ các bức ảnh riêng lẻ với tổ tiên của người dùng. Ngay khi tính năng này trở nên phổ biến, công ty đã phải thừa nhận rằng nhiều người dùng cho rằng nó thật đáng sợ. Với sự tiến bộ dần dần của các công nghệ đó, không có phương tiện thay thế nào khác ngoài việc ghi nhớ đạo đức để tạo điều kiện cho sự phát triển.