Bức thư này được ký bởi hơn 1.000 nhà khoa học, bao gồm cả những nhân vật mang tính biểu tượng trong thế giới công nghệ như Elon Musk, Steve Wozniak (một trong những người sáng lập Apple), cũng như các giáo sư từ Harvard và Cambridge.
Các tác giả viết: “AI tiên tiến có thể là một sự thay đổi sâu sắc trong lịch sử cuộc sống trên Trái đất… Những thay đổi này cần được lên kế hoạch và quản lý.
Rất tiếc là trong những tháng gần đây, các phòng thí nghiệm AI đã bị cuốn vào một cuộc chạy đua không kiểm soát để phát triển và triển khai những bộ óc kỹ thuật số mạnh mẽ hơn bao giờ hết.
Và không có ai - kể cả người tạo ra chúng - có thể hiểu đầy đủ, dự đoán hoặc kiểm soát một cách đáng tin cậy quá trình này.... Chúng ta có nên phát triển một trí tuệ nhân tạo cuối cùng có thể vượt qua và thay thế chúng ta không? Chúng ta có nên mạo hiểm để mất đi quyền kiểm soát nền văn minh của mình hay không?”
Nhưng Bill Gates chống lại điều đó!
Các nhà khoa học đề xuất tuyên bố lệnh cấm đào tạo mạng lưới thần kinh “mạnh hơn GPT-4” và đảm bảo để cho tất cả những người tham gia chính đều tuân thủ lệnh cấm đó.
Laurent Hakobyan - giám đốc điều hành của nhóm các công ty iPavlov, giám đốc điều hành của Trung tâm nghiên cứu Công ty cổ phần Shvabe tại MIPT, bình luận: Bức thư được ký bởi nhiều người có uy tín, nhưng điều này không có nghĩa là họ bày tỏ quan điểm chung giữa các nhà phát triển? Cần lưu ý rằng bức thư không được ký bởi người sáng lập Microsoft Bill Gates hay giám đốc điều hành Apple Tim Cook.
Không có quan điểm chính thức của Google, mặc dù trong đó có những nhân viên cũ của gã khổng lồ công nghệ thông tin này. Bức thư có chữ ký của Elon Musk, nhưng ông không thể được coi là một phần của cộng đồng công nghệ thông tin, vì Elon Musk chỉ là giám đốc thương mại.
Elon Musk là một trong những người sáng lập Open AI, công ty đã tạo ra ChatGPT. Elon Musk đã tạo ra dự án này bằng tiền của chính mình, nhưng sau đó đã chia tay Microsoft về mặt ý thức hệ. Và Musk, trái với ý muốn của mình, đã buộc phải cung cấp cho Microsoft tài nguyên này.
Rời khỏi dự án, Musk đã đưa ra một số tuyên bố gay gắt. Do đó, bức thư này có thể được coi là một kiểu phản hồi của ông với Microsoft. Nếu phân tích danh sách những người đã ký tên vào đó, có thể thấy rõ rằng, đây có thể là khởi đầu của một cuộc xung đột quy mô lớn giữa các nhóm khác nhau trong ngành trí tuệ nhân tạo.
Trí tuệ nhân tạo và vũ khí hạt nhân có điểm gì chung?
Bản thân trí tuệ nhân tạo, với tư cách là một ý tưởng, với tư cách là một ngành khoa học, hoàn toàn vô hại. Nhưng công cụ này có tiềm năng to lớn và cần phải hiểu nó sẽ rơi vào tay ai.
Có một lần, Albert Einstein dẫn đầu một phái đoàn lớn gồm các nhà vật lý từ Đức đến gặp Tổng thống Mỹ Franklin Roosevelt.
Các nhà khoa học cho biết: Chúng tôi đang trên đà tạo ra vũ khí hạt nhân, nhưng công nghệ này không nên rơi vào tay Hitler, chúng tôi sẽ trao nó cho các ngài.
Vào thời đó, nước Mỹ được coi là niềm hy vọng của nhân loại - một quốc gia mới, một thành trì của nền dân chủ, không tham gia vào việc nổ ra các cuộc chiến tranh thế giới... Nhưng sau đó Einstein rất hối hận về quyết định này, bởi vì điều đầu tiên nước Mỹ làm khi có vũ khí hạt nhân là sử dụng chúng trong vụ đánh bom ở Hiroshima và Nagasaki.
Trong trường hợp của AI, tình hình phức tạp hơn nhiều. Vì vũ khí hạt nhân được kiểm soát bởi chính phủ của các quốc gia lớn. Còn ở đây, một thứ tuyệt vời như trí tuệ nhân tạo đã rơi vào tay các tập đoàn. Bởi vì, với tư cách là một công nghệ, AI xuất hiện độc lập với nhà nước.
Ngày nay, tất cả mọi người đều tin tưởng Google và Wikipedia, bởi vì đây là những nguồn tài nguyên khổng lồ và đáng tin cậy. Nhưng ChatGPT và các mạng thần kinh sẽ vượt qua nó thậm chí còn phổ biến hơn và chính xác hơn.
Lần đầu tiên, trí thông minh đã xuất hiện trên hành tinh sẽ có ảnh hưởng chưa từng có đến tâm trí con người: 8 tỉ người có thể giao tiếp với trí tuệ nhân tạo. Nhưng vấn đề là ở chỗ khi đọc một cuốn sách, chúng ta biết ai đã viết nó và có thể đánh giá xem có nên tin người này hay không. Còn ai là tác giả của siêu trí tuệ đang được tạo ra bây giờ thì không ai biết.
Không thể nói chính xác công nghệ AI sẽ được sử dụng như thế nào để gây bất lợi cho loài người. Nhưng đối với những nhà phát triển, mối đe dọa như vậy là hiển nhiên. Đó là lý do tại sao lá thư này xuất hiện.
