Nhà nghiên cứu cấp cao OpenAI từ chức: "Họ dồn gần như toàn lực cho những sản phẩm danh tiếng"

P.W
19/5/2024 10:31Phản hồi: 21
Nhà nghiên cứu cấp cao OpenAI từ chức: "Họ dồn gần như toàn lực cho những sản phẩm danh tiếng"
Đó là Jan Leike, nhà nghiên cứu kiêm quản lý tại OpenAI, đảm trách nhiệm vụ định hướng phát triển và nghiên cứu những hàng rào an toàn cho những công cụ trí thông minh nhân tạo nổi tiếng mà OpenAI đang phát triển. Hôm thứ 5 16/5 vừa rồi, Leike đã từ chức vì lý do bất đồng quan điểm với những nhà quản lý khác tại OpenAI về vấn đề phân chia tài nguyên hiệu năng xử lý của máy chủ đám mây giữa việc nghiên cứu khoa học AI và nghiên cứu những sản phẩm thương mại hóa mà OpenAI đem ra thị trường, chẳng hạn như ChatGPT hay Sora.

Viết trên MXH X hôm thứ 6 vừa rồi, Leike cho rằng; “Trong những năm qua, văn hóa an toàn và định hướng cụ thể quy trình phát triển AI có trách nhiệm đã bị gác lại một bên, để tập trung cho những sản phẩm danh tiếng được rất nhiều người biết tới.”

Ra đi cùng trưởng khoa học gia Ilya Sutskever


Có một điều rõ ràng, OpenAI đã trở thành đơn vị dẫn đầu cuộc đua phát triển và ứng dụng mô hình AI tạo sinh, cũng như cuộc đua phát triển những mô hình AI mạnh nhất từ trước tới nay. Họ đang cạnh tranh với những cái tên lớn như Google, Meta hay Anthropic, cùng lúc là một trong số những đơn vị đẩy tiềm năng của kỷ nguyên AI lên tới mức tối đa.

Tính riêng OpenAI, họ đã gom được hàng chục tỷ USD tiền vốn, trong số đó là 13 tỷ USD từ Microsoft dưới dạng chi phí vận hành máy chủ đám mây và những chi phí khác, để phát triển những mô hình AI có thể nhận diện văn bản, giọng nói, hình ảnh và video, cùng lúc có khả năng tư duy lý luận và cả trí nhớ để hỗ trợ người dùng tốt nhất có thể.

profile-1024x1024.webp

Chính tốc độ phát triển khủng khiếp như thế này đã dẫn tới những lo ngại về vấn đề an toàn, từ lo ngại về việc AI có khả năng là công cụ đắc lực trong việc tuyên truyền những thông tin giả mạo, cho tới việc AI có thể bị “loạn”, tạo ra những hậu quả tiêu cực trong cách con người tổng hợp thông tin và kiến thức nhờ sự trợ giúp của AI.

Đồng sáng lập, trưởng nhóm khoa học OpenAI từ chức, 6 tháng sau màn lật đổ CEO bất thành

Đó là Ilya Sutskever, một trong số 4 thành viên ban lãnh đạo OpenAI đã bất ngờ đưa ra quyết định sa thải Sam Altman khỏi vị trí CEO. Sau khi vấp phải sự phản đối và tẩy chay dữ dội của các nhân viên OpenAI…
tinhte.vn


Jan Leike là một trong những nhà nghiên cứu trí thông minh nhân tạo nổi tiếng và được đánh giá cao nhất tại OpenAI. Leike rời khỏi OpenAI cùng thời điểm trưởng khoa học gia Ilya Sutskever tuyên bố từ chức, 6 tháng sau sự cố CEO Sam Altman bất ngờ bị đuổi khỏi vị trí giám đốc điều hành OpenAI hồi tháng 11, nhưng bất thành. Bản thân Leike cũng chính là một trong những nhà đồng sáng lập OpenAI cùng Altman, Brockman, Sutskever cùng nhiều nhà nghiên cứu hàng đầu khác.

Dẫn đầu nhóm nghiên cứu an toàn AI


Trước khi rời khỏi startup nghiên cứu AI này, Leike là đồng giám đốc nhóm nghiên cứu có tên Superalignment Team, phát triển những giải pháp kiểm soát và đảm bảo AI vận hành an toàn và đáng tin cậy.

Cả hai nhà quản lý nhóm Superalignment, Leike và Sutskever rời khỏi công ty, đồng nghĩa với việc nhóm này cũng bị cho giải tán. Những nhân viên, kỹ sư và nhà nghiên cứu của nhóm chuyên trách này sẽ được điều chuyển sang những nhóm nghiên cứu mô hình và giải pháp khác, và vẫn đảm nhận nhiệm vụ phát triển những hàng rào an toàn để vận hành AI.

Với sự ra đi của cả Leike lẫn Sutskever trong tuần vừa rồi, rất dễ đi tới kết luận rằng bên trong OpenAI vẫn đang diễn ra một cuộc chiến tranh giành quyền kiểm soát cũng như đưa ra quyền quyết định về mặt định hướng của startup quan trọng nhất thị trường công nghệ hiện giờ.

Leike viết trên mạng xã hội: “Chúng ta đang rất cần tìm ra những cách định hướng và kiểm soát những hệ thống AI thông minh hơn cả con người. Tôi gia nhập OpenAI vì tôi nghĩ rằng đây sẽ là nơi tốt nhất để thực hiện những nghiên cứu phục vụ mục tiêu kể trên, Tuy nhiên, trong thời gian qua tôi đã có những bất đồng với ban lãnh đạo OpenAI về những giá trị cốt lõi của công ty, cho tới khi những bất đồng ấy không thể giải quyết.”

Quảng cáo



Sam Altman thì viết trên MXH X, rằng “rất buồn khi thấy Leike rời đi. Anh ấy đã đúng khi nói rằng còn nhiều việc anh có thể làm, và chúng tôi cam kết sẽ tiếp tục những nhiệm vụ ấy.”

Tranh giành quyền lực hay phát triển bằng mọi giá?


Những lo ngại xoay quanh việc phát triển và ứng dụng AI một cách an toàn chính xác là lý do dẫn tới những drama hồi tháng 11 năm ngoái tại OpenAI. Chỉ mất có 4 ngày, những nỗ lực lật đổ Altman của Sutskever và 3 vị giám đốc trong ban lãnh đạo OpenAI đã thất bại. Trước khi bất ngờ có thông tin Altman bị sa thải khỏi ghế CEO, Altman và thành viên ban quản trị Helen Toner đã có những bất đồng và xung đột, vì cô này đã so sánh quy trình phát triển hàng rào kiểm soát AI giữa OpenAI và Anthropic, theo hướng không có lợi cho OpenAI.

Cận cảnh nguyên do Sam Altman bị đá khỏi ghế CEO OpenAI: Khi an toàn xung đột với tham vọng

Tính đến trước thời điểm hiện tại, ai cũng nghĩ rằng nguồn cơn khiến những drama ở OpenAI xảy ra vào cuối tuần vừa rồi, khi Sam Altman bất ngờ bị truất quyền giám đốc điều hành trong vòng 4 ngày, tất cả đều xuất phát từ những bất đồng giữa CEO…
tinhte.vn


Năm ngoái, OpenAI thành lập Superalignment Team, với tuyên bố chính thức rằng nhóm này được phát triển để giải quyết những lo ngại rằng những hệ thống máy móc siêu thông minh “có thể khiến con người mất đi tiếng nói và quyền lực, thậm chí có thể dẫn tới sự diệt vong của loài người.” Ở thời điểm Superalignment Team được thành lập, OpenAI cho rằng trí thông minh nhân tạo hoàn toàn có khả năng vượt qua trí thông minh con người trong vòng 10 năm tới. Chỉ vài tháng kể từ thời điểm ấy, OpenAI đã tạo ra được không ít những đột phá về công nghệ AI.

Còn đối với hiệu năng máy chủ vận hành nghiên cứu, huấn luyện và vận hành AI mà OpenAI đang sở hữu ở thời điểm hiện tại, chỉ có 20% tổng số đó là được dành cho những nhà nghiên cứu phụ trách phát triển những hàng rào bảo vệ con người trước nguy cơ AI vận hành không như ý muốn, hay “hóa điên, loạn ngôn”.

Quảng cáo


openai-team-sutskever-goodbye.png

Leike cho rằng, OpenAI đã không có sự quan tâm cần thiết để đảm bảo AI có ích cho cả con người lẫn xã hội: “Những vấn đề ấy rất khó giải quyết, và tôi thì nghĩ rằng định hướng của chúng tôi không cho phép làm việc để tạo ra những AI thực sự an toàn. Trong những tháng qua, nhóm nhân sự chúng tôi đã phải cố gắng lội ngược dòng. Có lúc thì thiếu hụt trầm trọng sức mạnh điện toán xử lý, dẫn tới việc càng lúc càng khó hoàn thành những nghiên cứu rất quan trọng."

GPT-4o: Vũ khí mới nhất để OpenAI cạnh tranh với Gemini, hữu ích, thông minh và đa dụng hơn

Đồng ý rằng hiện giờ Gemini vẫn chưa thể cạnh tranh được với GPT-4 về khả năng tạo sinh nội dung. Nhưng nếu cứ ngủ quên trên chiến thắng, OpenAI sẽ để Google vượt qua. Vượt qua ở đây không đơn giản là sức mạnh của bản thân mô hình ngôn ngữ Gemini…
tinhte.vn


Nhân sự của Superalignment Team gặp khó khăn trong việc có đủ hiệu năng xử lý của máy chủ để làm việc, còn phần lớn sức mạnh data center thì được OpenAI dồn gần như toàn lực cho việc phát triển những mô hình thương mại hóa cho người tiêu dùng, chẳng hạn như GPT-4o ra mắt hồi thứ 2 đầu tuần này.

Theo FT
21 bình luận
Chia sẻ

Xu hướng

Áp lực của người dẫn đầu và được biết tới nhiều nhất là luôn bị chỉ điểm là nhân vật phản diện😃 dù có đầy các dịch vụ khác cũng đi con đường tươg tự thậm chí còn tệ hơn.
Chưa biết tương lai sẽ như thế nào những rõ ràng OpenAI đã thay đổi thế giới mạnh mẽ hơn bất kì ai khác trong hơn 1 năm qua.
Từ khi có AI giá cả mọi thứ đều tăng phi mã, ngành nghề thì càng một mất đi người giàu càng giàu người nghèo càng nghèo, chiến tranh thì xảy ra khắp nơi, không thấy được lợi ích gì cho những người thấp bé nhẹ cân
@Còn Cái Nịt Thì mình thấy buồn vì có nhiều người bị bỏ lại phía sau thôi. Giống thời người trẻ bắt đầu có internet.
@Thanhcongdzo AI chỉ thấy thế đc nhân sự công việc cấp thấp thôi chứ trình độ có hạn thì thất nghiệp có gì phải buồn
@Thanhcongdzo A.I nó chỉ lấp đi phần nhân sự trống để bộ máy tổng thể có thể vận hành bình thường ở cấp độ kinh tế vĩ mô.
Còn vào chi tiết dù không có A.I thì những người mất việc cũng sẽ mất việc do tình hình suy thoái chung. Lúc đó lạm phát mất khống chế, vật giá còn tăng khủng khiếp nữa. Hiện nay vẫn chưa tính là đại suy thoái như thời 2008, thất nghiệp la liệt, lạm phát 2x%
Nhìn mặt tích cực thì A.I nó đang gánh nền kinh tế toàn cầu hiện nay ấy, bởi nó xuất hiện đúng lúc giải quyết khốn cảnh nên nó mới bùng nổ mạnh mẽ. Tại thời giờ báo điện tử thông tin cập nhật làm ngộp nên thấy nó nghiêm trọng thêm. 😁
@[Zeus] nhân sự cấp cao cũng bị thay thế nốt, nhất là những công việc văn phòng :D
Screenshot 2024-05-21 161244.jpg
Ko thương mại thì ko có tiền, thương mại thì lại bị nói áp lực.
@Thiên biến vạn hoá Ko nên nói kiểu ba phải như thế bạn. Giống kiểu bạn chỉ có lựa chọn ăn cơm hay ăn c ấy.
Rồi Google, MS lại rước về sau 30 giây. Những dự định và ấp ủ của họ sẽ làm giàu và củng cố danh tiếng cho 2 ông CEO gốc Ấn.😁😂
Mong AI phát triển và điều khiển máy móc, robot tiêu diệt loài người để loài nguời đoàn kết lại. Chứ h chia rẽ giữa các quốc gia , giàu nghèo, thế hệ quá. Lịch sử loài người đã chứng minh chỉ khi gặp hoạ diệt vong , tất cả mới đoàn kết thôi tạo ra kỉ nguyên mới, còn cứ để như giờ thì ngày càng chia rẽ, chiến tranh lẫn nhau
Ủng họ Sam Altman cho ra các sản phẩm AI "hào nhoáng" vì nó mới thực sự là thứ người dùng cần. Còn ba cái thứ gọi là "an toàn" hay gì gì đó chỉ là đạo đức giả, sẽ làm rào cản cho sự phát triển của AI.
Rụng dần
@vu
ĐẠI BÀNG
một tháng
Rất áp lực, 1 bên là làm cho openAI ngày càng phát triển mạnh mẽ còn 1 bên là đảm bảo AI an toàn và đạo đức. Cái ranh giới mong manh trong bất cứ doanh nghiệp nào
@@vu toàn vì tiền cả bác nhỉ
@haobcyqhdvb bạn chỉ cho mình công ty nào mà hoạt động giống kiểu tổ chức xã hội với chứ AI nó đốt tiền kinh khủng lương kĩ sư AI ở VN bèo cũng ngàn đô rồi đừng nói ở các nước phát triển, hơn thế cấu hình phần cứng để huấn luyện AI cũng đòi hỏi cả núi tiền, kiếm xem công ty nào sống bằng nước mưa ngửa tay xin tiền để phát triển AI
Ảnh hoạt hoạ của ông thần này nhìn giống bạn của Captain America
Thằng Altman dc giới robot tương lai cử xuống để cho mấy đứa team superaligntment này ra chuồng gà
OpenAI thật sự là công cụ quyền lực & rất có ý nghĩa với người dùng. Mình đã bỏ qua google lâu lắm rồi 😁
AI giờ có thể làm được truyện tranh rồi:

mình cũng đang tập tành làm quen nhưng không có Prompt, nên không biết cách tạo truyện tranh như thế nào? cái khó là mỗi lần Dall-E3 tạo hình, thì lại ra một kiểu? mình không biết cách tạo hình, một kiểu xuyên suốt cho nhân vật.

lĩnh vực mới nên hiện tại mình tìm không có nhiều tài liệu hướng dẫn.
mình có hỏi trên facebook thì toàn bảo là giữ nguyên thông số ban đầu,... nhưng mình làm theo thì mỗi lần lại ra một hình khác chau.

bạn nào biết cách làm thì chia sẻ hướng dẫn giúp với chân thành cảm ơn rất nhiều.


Dùng chatGPT dựng nên cốt truyện, khung truyện, rồi dùng Dall-E3 vẽ ra các trang truyện. (Có khác gì bảo bối viết truyện, vẽ truyện như trong Doraemon đâu?)

một số tác phẩm của người việt mình làm đăng nè:
z5451797274823-ab6604c15123318d4668caefa0e1d1a1.jpg
440350849-7812086425503156-6691535378135891764-n.jpg
440378073-7812086815503117-4826244058764375276-n.jpg
z5451797274825-e43660244827a1f624e654f9245bd63f.jpg
440325857-7812086075503191-3904263230158111890-n.jpg

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019