Các chuyên gia trong lĩnh vực trí thông minh nhân tạo đã đưa ra một cảnh báo khá nghiêm trọng vào hôm Thứ Ba, rằng các mô hình AI sẽ ngày càng thông minh hơn, mạnh mẽ hơn và chúng ta nên sớm áp đặt các giới hạn để đảm bảo chúng không kiểm soát loài người hoặc phá huỷ thế giới.
“Giảm thiểu nguy cơ tuyệt chủng do trí thông minh nhân tạo phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô lớn trong xã hội khác như đại dịch hay chiến tranh hạt nhân” - Đấy là lời tuyên bố được đăng tải trên trang web của Trung tâm An toàn AI của một nhóm các nhà khoa học và chuyên gia hàng đầu trong lĩnh vực công nghệ.
Quan điểm trên được Sam Altman, CEO của OpenAI và cũng được coi cha để của ChatGPT hưởng ứng nhiệt tình. Sam Altman cùng với Geoffrey Hinton và nhiều người khác đã ký thoả thuận hợp tác về chống khủng hoảng toàn cầu do AI. Geoffrey Hinton được coi là “ông trùm” trong lĩnh vực này nhờ công trình nghiên cứu về mạng thần kinh nhân tạo. Ông là một trong những người đi tiên phong về AI nhưng đã từ chức tại Google vì muốn tuyên bố cho mọi người biết về sự nguy hiểm của công nghệ này.
Cách đây 2 tháng, có hơn 30.000 người, trong đó có các chuyên gia và giám đốc của các công ty công nghệ đã ký vào một bản tuyên bố đề nghị tạm dừng đào tạo hệ thống GPT-4 trong sáu tháng. GPT-4 là phiên bản mới nhất của ChatGPT và đem lại hiệu năng mạnh mẽ hơn đáng kể. Trong lời mở đầu, họ nói rằng công nghệ AI tiên tiến có thể là đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái Đất. Với tầm quan trọng như thế, chúng ta cần lên kế hoạch cũng như quản lý với một sự quan tâm và nguồn lực tương ứng.
Geoffrey Hinton nói rằng các chương trình AI đang được phát triển đúng hướng, do đó chúng sẽ sớm phát triển để vượt trội hơn cả những người tạo ra nó. Hinton nhấn mạnh điều này sẽ đến sớm hơn những gì chúng ta có thể tưởng tượng. Những vấn đề mà AI đem lại có thể bao gồm: thông tin sai lệch, sử dụng cho mục đích độc hại, tấn công mạng, vũ khí hoá,… Các chuyên gia nói rằng sẽ thật liều lĩnh nếu chỉ xem AI là một công nghệ đơn thuần và bỏ qua các cơ cấu để quản lý chúng.
Tham khảo NPR
“Giảm thiểu nguy cơ tuyệt chủng do trí thông minh nhân tạo phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô lớn trong xã hội khác như đại dịch hay chiến tranh hạt nhân” - Đấy là lời tuyên bố được đăng tải trên trang web của Trung tâm An toàn AI của một nhóm các nhà khoa học và chuyên gia hàng đầu trong lĩnh vực công nghệ.
Quan điểm trên được Sam Altman, CEO của OpenAI và cũng được coi cha để của ChatGPT hưởng ứng nhiệt tình. Sam Altman cùng với Geoffrey Hinton và nhiều người khác đã ký thoả thuận hợp tác về chống khủng hoảng toàn cầu do AI. Geoffrey Hinton được coi là “ông trùm” trong lĩnh vực này nhờ công trình nghiên cứu về mạng thần kinh nhân tạo. Ông là một trong những người đi tiên phong về AI nhưng đã từ chức tại Google vì muốn tuyên bố cho mọi người biết về sự nguy hiểm của công nghệ này.
Cách đây 2 tháng, có hơn 30.000 người, trong đó có các chuyên gia và giám đốc của các công ty công nghệ đã ký vào một bản tuyên bố đề nghị tạm dừng đào tạo hệ thống GPT-4 trong sáu tháng. GPT-4 là phiên bản mới nhất của ChatGPT và đem lại hiệu năng mạnh mẽ hơn đáng kể. Trong lời mở đầu, họ nói rằng công nghệ AI tiên tiến có thể là đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái Đất. Với tầm quan trọng như thế, chúng ta cần lên kế hoạch cũng như quản lý với một sự quan tâm và nguồn lực tương ứng.
Geoffrey Hinton nói rằng các chương trình AI đang được phát triển đúng hướng, do đó chúng sẽ sớm phát triển để vượt trội hơn cả những người tạo ra nó. Hinton nhấn mạnh điều này sẽ đến sớm hơn những gì chúng ta có thể tưởng tượng. Những vấn đề mà AI đem lại có thể bao gồm: thông tin sai lệch, sử dụng cho mục đích độc hại, tấn công mạng, vũ khí hoá,… Các chuyên gia nói rằng sẽ thật liều lĩnh nếu chỉ xem AI là một công nghệ đơn thuần và bỏ qua các cơ cấu để quản lý chúng.
Tham khảo NPR
