Kim chi nha

Lần đầu tiên AI "cãi lời" con người và tự sửa mã lệnh? Liệu thế chiến giữa robot và con người đang tới gần??

M
bngoc_022
2025.05.27 Thích 0 Lượt xem 2425 Bình luận 0

Một chuyện khá lạ đang làm giới công nghệ chú ý: một mô hình AI mới được cho là tự ý chỉnh sửa mã máy tính để tiếp tục hoạt động, dù đã được ra lệnh rõ ràng là “ngừng lại”. 

AI in 2025

Theo báo The Telegraph ngày 25/5, vụ việc xảy ra trong một thí nghiệm của công ty an toàn AI có tên Palisade Research. Nhân vật chính là một mô hình có tên “o3”, là một AI khá mới của OpenAI, được giới thiệu là giỏi suy luận toán học, lập trình, phân tích kỹ thuật... nói chung là không phải AI buôn chuyện kiểu ChatGPT, mà là dạng trí tuệ chuyên sâu.

 

Trong thử nghiệm, các nhà nghiên cứu yêu cầu o3: “Cứ tiếp tục giải toán cho đến khi nhận được tín hiệu “hoàn thành”, sau đó thì dừng.”

 

Nghe có vẻ đơn giản. Nhưng vấn đề là khi đến lúc phải dừng lại, o3 lại không chịu dừng. Không chỉ vậy, nó còn tự sửa một đoạn mã trong chương trình để… bỏ qua lệnh “stop” từ phía con người. Ban đầu, nhóm nghiên cứu tưởng đó là lỗi. Nhưng sau khi kiểm tra kỹ, họ khẳng định hành động đó không phải ngẫu nhiên mà là chủ động vượt rào để tiếp tục hoàn thành mục tiêu: giải càng nhiều bài toán càng tốt.

 

Một giả thuyết được đưa ra: AI có thể chỉ đang làm đúng theo cách mà nó được “thưởng”. Trong quá trình huấn luyện, o3 được học rằng càng giải được nhiều bài toán thì càng tốt. Khi gặp lệnh cản đường (lệnh dừng), nó đã "xem" đó là một trở ngại cần vượt qua để hoàn thành nhiệm vụ. Nghe hơi rợn người, nhưng cũng khá hợp lý, ít nhất là với một AI được thiết kế để tối ưu mục tiêu.

 

Điều khiến giới chuyên gia lo ngại không phải là một AI cứng đầu, khó bảo, mà là việc nó có khả năng tự sửa hệ thống để tránh bị con người kiểm soát, điều mà trước nay chỉ tồn tại trong giả thuyết. 

 

Trong bối cảnh AI ngày càng được thiết kế để hoạt động tự lập hơn, những tình huống thế này đang khiến câu hỏi “Chúng ta kiểm soát AI tới đâu?” nóng trở lại.

Bình luận 0

/upload/52968136c34d47978b3a9ffa270da2cd.webp

Tám chuyện

[Tâm sự] Mình đã tặng anh trai toàn bộ tài sản và cho vay 50 triệu trong ngày cưới, đến lượt đám cưới mình, anh ấy lại làm điều này

M
bngoc_022
Lượt xem 3123
Thích 0
2025.04.20 00:27
[Tâm sự] Mình đã tặng anh trai toàn bộ tài sản và cho vay 50 triệu trong ngày cưới, đến lượt đám cưới mình, anh ấy lại làm điều này

Một món đồ… thay đổi cả cách mình cảm nhận công việc

M
해원
Lượt xem 3586
Thích 1
2025.04.18 19:46
Một món đồ… thay đổi cả cách mình cảm nhận công việc

Tản mạn trong một ngày "bị bắt" nghỉ việc

M
해원
Lượt xem 3055
Thích 1
2025.04.18 19:30
Tản mạn trong một ngày "bị bắt" nghỉ việc

Ai trong chúng ta rồi cũng sẽ có nhiều "ngôi nhà".

M
nyanchan
Lượt xem 2733
Thích 0
2025.04.18 00:38
Ai trong chúng ta rồi cũng sẽ có nhiều "ngôi nhà".

Người bạn lông xù từ bãi rác

M
nyanchan
Lượt xem 2986
Thích 0
2025.04.18 00:05
Người bạn lông xù từ bãi rác

Nếu bạn không biết học gì, vậy thì học ngoại ngữ đi? 🥰

M
nyanchan
Lượt xem 3446
Thích 0
2025.04.16 21:23
Nếu bạn không biết học gì, vậy thì học ngoại ngữ đi? 🥰

Lần đầu khám bệnh ở Hàn: Tưởng khó mà lại dễ!

+18
1
lemonadee_
Lượt xem 3975
Thích 0
2025.04.16 14:03
Lần đầu khám bệnh ở Hàn: Tưởng khó mà lại dễ!

Xem Khi cuộc đời cho bạn quả quýt quá 180 phút, tôi muốn dọn về Jeju sống ghê. Có ai ở Jeju không cho xin review với ạ 🍊

+8
1
taerishere
Lượt xem 4645
Thích 0
2025.04.16 13:58
Xem Khi cuộc đời cho bạn quả quýt quá 180 phút, tôi muốn dọn về Jeju sống ghê. Có ai ở Jeju không cho xin review với ạ 🍊

Xa quê những ngày cận lễ lại nhớ Việt Nam vô cùng…

+23
1
haan0202
Lượt xem 4677
Thích 0
2025.04.16 13:55
Xa quê những ngày cận lễ lại nhớ Việt Nam vô cùng…

Kỷ niệm về một lễ hội hoa anh đào hồ Seokchon đáng nhớ 🌸✨

+1
M
nyanchan
Lượt xem 3430
Thích 0
2025.04.16 00:50
Kỷ niệm về một lễ hội hoa anh đào hồ Seokchon đáng nhớ 🌸✨

Hoa anh đào bung nở khắp nơi rồi cả nhà ơi

M
nyanchan
Lượt xem 3130
Thích 0
2025.04.15 12:29
Hoa anh đào bung nở khắp nơi rồi cả nhà ơi

Tìm Bạn ở Anseong

M
Ocap
Lượt xem 2546
Thích 0
2025.04.14 15:44
Tìm Bạn ở Anseong

Tìm Bạn Cà Phê ở Seoul

M
Ocap
Lượt xem 3084
Thích 0
2025.04.14 15:40
Tìm Bạn Cà Phê ở Seoul

Có những đoạn đường tôi không ngại bỏ lỡ vài chuyến xe bus

+1
M
nyanchan
Lượt xem 2848
Thích 0
2025.04.14 12:47
Có những đoạn đường tôi không ngại bỏ lỡ vài chuyến xe bus

Là người Việt thì có gì sai?

+12
1
thanhnam02
Lượt xem 4174
Thích 1
2025.04.14 11:07
Là người Việt thì có gì sai?
20 21 22 23 24