Kim chi nha

Lần đầu tiên AI "cãi lời" con người và tự sửa mã lệnh? Liệu thế chiến giữa robot và con người đang tới gần??

M
bngoc_022
2025.05.27 Thích 0 Lượt xem 2386 Bình luận 0

Một chuyện khá lạ đang làm giới công nghệ chú ý: một mô hình AI mới được cho là tự ý chỉnh sửa mã máy tính để tiếp tục hoạt động, dù đã được ra lệnh rõ ràng là “ngừng lại”. 

AI in 2025

Theo báo The Telegraph ngày 25/5, vụ việc xảy ra trong một thí nghiệm của công ty an toàn AI có tên Palisade Research. Nhân vật chính là một mô hình có tên “o3”, là một AI khá mới của OpenAI, được giới thiệu là giỏi suy luận toán học, lập trình, phân tích kỹ thuật... nói chung là không phải AI buôn chuyện kiểu ChatGPT, mà là dạng trí tuệ chuyên sâu.

 

Trong thử nghiệm, các nhà nghiên cứu yêu cầu o3: “Cứ tiếp tục giải toán cho đến khi nhận được tín hiệu “hoàn thành”, sau đó thì dừng.”

 

Nghe có vẻ đơn giản. Nhưng vấn đề là khi đến lúc phải dừng lại, o3 lại không chịu dừng. Không chỉ vậy, nó còn tự sửa một đoạn mã trong chương trình để… bỏ qua lệnh “stop” từ phía con người. Ban đầu, nhóm nghiên cứu tưởng đó là lỗi. Nhưng sau khi kiểm tra kỹ, họ khẳng định hành động đó không phải ngẫu nhiên mà là chủ động vượt rào để tiếp tục hoàn thành mục tiêu: giải càng nhiều bài toán càng tốt.

 

Một giả thuyết được đưa ra: AI có thể chỉ đang làm đúng theo cách mà nó được “thưởng”. Trong quá trình huấn luyện, o3 được học rằng càng giải được nhiều bài toán thì càng tốt. Khi gặp lệnh cản đường (lệnh dừng), nó đã "xem" đó là một trở ngại cần vượt qua để hoàn thành nhiệm vụ. Nghe hơi rợn người, nhưng cũng khá hợp lý, ít nhất là với một AI được thiết kế để tối ưu mục tiêu.

 

Điều khiến giới chuyên gia lo ngại không phải là một AI cứng đầu, khó bảo, mà là việc nó có khả năng tự sửa hệ thống để tránh bị con người kiểm soát, điều mà trước nay chỉ tồn tại trong giả thuyết. 

 

Trong bối cảnh AI ngày càng được thiết kế để hoạt động tự lập hơn, những tình huống thế này đang khiến câu hỏi “Chúng ta kiểm soát AI tới đâu?” nóng trở lại.

Bình luận 0

/upload/52968136c34d47978b3a9ffa270da2cd.webp

Tám chuyện

Soju có phải được làm từ gạo? Sự thật có thể khiến nhiều người "té ngửa"

+1
1
anhnt6
Lượt xem 4114
Thích 0
2025.03.21 02:08
Soju có phải được làm từ gạo? Sự thật có thể khiến nhiều người "té ngửa"

Hiểu luật nên là một đặc quyền

M
해원
Lượt xem 3766
Thích 1
2025.03.20 23:12
Hiểu luật nên là một đặc quyền

TOP NHỮNG CÂU HỎI PHONG ẤN NGƯỜI HÀN

+1
M
해원
Lượt xem 3823
Thích 1
2025.03.20 23:06
TOP NHỮNG CÂU HỎI PHONG ẤN NGƯỜI HÀN

Các chứng bệnh tâm lý có đang thực sự được quan tâm tại Hàn Quốc?

+1
1
anhnt6
Lượt xem 3035
Thích 0
2025.03.20 14:29
Các chứng bệnh tâm lý có đang thực sự được quan tâm tại Hàn Quốc?

Vấn đề bài ngoại ở Hàn Quốc: Người Hàn không thân thiện như bạn nghĩ?

1
anhnt6
Lượt xem 3681
Thích 0
2025.03.20 14:23
Vấn đề bài ngoại ở Hàn Quốc: Người Hàn không thân thiện như bạn nghĩ?

Những thay đổi tích cực với cộng đồng LGBT+ của xã hội Hàn Quốc

1
anhnt6
Lượt xem 3391
Thích 0
2025.03.20 12:28
Những thay đổi tích cực với cộng đồng LGBT+ của xã hội Hàn Quốc

Hôm nay con cảm thấy thế nào?

M
해원
Lượt xem 3739
Thích 1
2025.03.20 01:29
Hôm nay con cảm thấy thế nào?

Công Việc Bán Thời Gian Gây Sốc Khi 10 Ngày Nhận Gần 8 Triệu Won

+1
M
bngoc_022
Lượt xem 3975
Thích 0
2025.03.19 01:41
Công Việc Bán Thời Gian Gây Sốc Khi 10 Ngày Nhận Gần 8 Triệu Won

10 quy tắc bất thành văn dành cho người nước ngoài muốn làm việc tại Hàn Quốc

+1
M
해원
Lượt xem 4532
Thích 1
2025.03.19 01:03
10 quy tắc bất thành văn dành cho người nước ngoài muốn làm việc tại Hàn Quốc

Làm gì khi đi date với người Hàn Quốc?

+2
M
해원
Lượt xem 3858
Thích 1
2025.03.19 00:53
Làm gì khi đi date với người Hàn Quốc?

Bạn Đã Sẵn Sàng Nắm Lấy “Mỏ Vàng” 2025?

+1
M
해원
Lượt xem 4474
Thích 1
2025.03.19 00:46
Bạn Đã Sẵn Sàng Nắm Lấy “Mỏ Vàng” 2025?

Trang nhật ký người mẹ để lại cho con trước khi ra đi ở tuổi 43 (Note in a journal from my mom who just passed at 43)

M
Ocap
Lượt xem 3911
Thích 0
2025.03.18 16:13
Trang nhật ký người mẹ để lại cho con trước khi ra đi ở tuổi 43 (Note in a journal from my mom who just passed at 43)

Bay về Sài Gòn qua Tân Sơn Nhất: Mọi người thấy sao?

M
Ocap
Lượt xem 3955
Thích 0
2025.03.18 13:39
Bay về Sài Gòn qua Tân Sơn Nhất: Mọi người thấy sao?

Hàn Quốc tuyết rơi tháng 3, mình có chút nhớ nhà.

+1
1
nhy.11
Lượt xem 3884
Thích 2
2025.03.18 12:37
Hàn Quốc tuyết rơi tháng 3, mình có chút nhớ nhà.

TOP 10 KỸ NĂNG KHÔNG LO THẤT NGHIỆP Ở HÀN QUỐC

+1
M
해원
Lượt xem 4342
Thích 0
2025.03.18 05:49
TOP 10 KỸ NĂNG KHÔNG LO THẤT NGHIỆP Ở HÀN QUỐC
27 28 29 30 31