Giả sử chúng ta có một AI mà mục tiêu duy nhất của nó là tạo ra càng nhiều kẹp giấy càng tốt. AI sẽ nhanh chóng nhận ra rằng nó sẽ tốt hơn nhiều nếu như không có con người. Nếu người quyết định tắt nó đi, sẽ có ít kẹp giấy hơn. Hơn nữa, cơ thể người chứa rất nhiều nguyên tử có thể được chế tạo thành kẹp giấy. Tương lai mà AI này sẽ cố gắng hướng tới sẽ là một nơi có rất nhiều kẹp giấy nhưng không có con người.
Bản năng sinh tồn sẽ phát sinh ở bất cứ goal-oriented agent nào.
Show note:
00:00 - 46:43 Chẳng tình nào chặt nổi con dao
Reinforment learning from human feedback
46:44 - 1:36:23 Thế năng positron
1:36:24 - 2:20:16 Các chuyên gia đồng điệu
Order sách "ChatGPT là gì? Phép lạ nào khiến nó hoạt động?" tại Oddly normal store
Tác giả Stephen Wolfram
Dịch bởi Oddly normal
