Trong một cuộc khảo sát gần đây về các giám đốc điều hành rủi ro tại 249 tổ chức do công ty tư vấn và nghiên cứu công nghệ Hoa Kỳ Gartner thực hiện, các mô hình AI tổng quát như ChatGPT của OpenAI được xác định là những rủi ro mới nổi. mối quan tâm thứ hai đối với doanh nghiệp.
Theo một bài đăng trên blog vào thứ Ba về cuộc khảo sát của Gartner, các chuyên gia tại công ty tư vấn đã xác định ba điểm cấp bách cần được giải quyết để giảm thiểu rủi ro từ các mô hình ngôn ngữ lớn (LLM). như ChatGPT.
Hai trong số những lo ngại là quyền sở hữu trí tuệ và quyền riêng tư dữ liệu bị xâm phạm do sự mơ hồ hiện tại về cách ChatGPT sử dụng tập dữ liệu của mình để tạo kết quả đầu ra.
Ví dụ: nếu tài sản trí tuệ hoặc dữ liệu nhạy cảm của công ty được nhập dưới dạng lời nhắc vào ChatGPT mà không tắt lịch sử trò chuyện, chúng có thể xuất ra dưới dạng phản hồi không có nguồn cho người dùng và tổ chức bên ngoài doanh nghiệp.
An ninh mạng là khía cạnh thứ ba của mối quan tâm. Tin tặc gần đây đã có thể lừa ChatGPT tạo mã ransomware và phần mềm độc hại, dẫn đến cái mà Garnet gọi là “công nghiệp hóa các cuộc tấn công lừa đảo nâng cao”.
Trong một bài đăng trên blog trước đó, Gartner cũng chỉ ra rằng các câu trả lời đôi khi bịa đặt hoặc không chính xác của AI hay còn gọi là “ảo giác” dẫn đến nguy cơ làm suy giảm lòng tin của người dùng. (ví dụ: nếu người dùng không biết thì họ đang nói chuyện với máy học thay vì nhân viên hỗ trợ người dùng trực tiếp) và các thành kiến đầu ra — Ảnh hồ sơ LinkedIn của một sinh viên người Mỹ gốc Á chuyển sang màu trắng khi cô ấy sử dụng trí tuệ nhân tạo để chỉnh sửa ảnh.
Gartner đã không trả lời khi được hỏi liệu các tổ chức có hành động thiết thực và kịp thời để ứng phó với rủi ro hay không.
Con đường đến với pháp luật
Đối với những người ủng hộ, AI là một công cụ giúp giảm bớt khối lượng công việc, cải thiện thiết kế và có khả năng mở ra một kỷ nguyên mới về sức khỏe, học tập, làm việc, vui chơi, sáng tạo và đổi mới. mọi nỗ lực khác của con người.Tuy nhiên, ngày càng có nhiều nhà công nghệ và người nổi tiếng lên tiếng về sự cần thiết phải điều chỉnh toàn cầu đối với sự phát triển của các hệ thống máy học tiên tiến để chuẩn bị cho sự ra đời của nhận thức. trí tuệ nhân tạo cấp độ con người, hay còn gọi là Trí tuệ nhân tạo chung (AGI).
Vào tháng 4, nhà phát triển ChatGPT, Logan Kilpatrick, đã đảm bảo với những người theo dõi trên Twitter của mình rằng công việc trên GPT-5 vẫn chưa bắt đầu và sẽ phải chờ “một thời gian”.
Thông báo này được đưa ra ngay sau khi một bản kiến nghị kêu gọi ngừng phát triển các hệ thống mạnh hơn GPT4 đã thu hút hơn một nghìn chữ ký từ các nhà công nghệ và nhà nghiên cứu nổi tiếng, bao gồm cả CEO Tesla, Elon Musk. và đồng sáng lập Apple Steve Wozniak.
Vào tháng 5, giám đốc điều hành của Microsoft, Google và OpenAI đã đưa ra cảnh báo rõ ràng tới các chính phủ về sự chuẩn bị không đầy đủ cho các hệ thống tiên tiến.
Vào tháng 6, Nghị viện Châu Âu – cơ quan lập pháp giám sát Liên minh Châu Âu – đã bỏ phiếu ủng hộ áp đảo việc thông qua dự thảo luật về Đạo luật Trí tuệ Nhân tạo, một bộ luật toàn diện. để thiết lập các tiêu chuẩn toàn cầu. Nó phân loại rủi ro AI là “không thể chấp nhận được”, “cao” hoặc “có giới hạn”.
Trong khi đó, OpenAI, người tạo ra Chat GPT, đã vận động hành lang các nhà lập pháp châu Âu không phân loại hệ thống của họ là “rủi ro cao” vì nó sẽ khiến họ phải tuân theo các yêu cầu quy định. nghiêm ngặt và có nghĩa là nếu rủi ro cao đột ngột xuất hiện, thời gian phản hồi của công ty bị chậm lại đáng kể do phải vượt qua nhiều quy trình quan liêu khác.
