Tận thế kẹp giấy

Tận thế kẹp giấy

Giả sử chúng ta có một AI mà mục tiêu duy nhất của nó là tạo ra càng nhiều kẹp giấy càng tốt. AI sẽ nhanh chóng nhận ra rằng nó sẽ tốt hơn nhiều nếu như không có con người. Nếu người quyết định tắt nó đi, sẽ có ít kẹp giấy hơn. Hơn nữa, cơ thể người chứa rất nhiều nguyên tử có thể được chế tạo thành kẹp giấy. Tương lai mà AI này sẽ cố gắng hướng tới sẽ là một nơi có rất nhiều kẹp giấy nhưng không có con người.

Bản năng sinh tồn sẽ phát sinh ở bất cứ goal-oriented agent nào.

Show note:

00:00 - 46:43 Chẳng tình nào chặt nổi con dao

Hallucination

LLM (large language model)

Cybernetics

Automata theory

Symbolic AI

Formal language

Mechanical Turk

Deep Blue

Neural backpropagation

Convolutional neural network

Recurrent neural network

Feed forward neural network

Transformer

Gradient descent

Reinforment learning from human feedback

46:44 - 1:36:23 Thế năng positron

The Moral machine

Utility monster

Optimization function

Instrumental convergence

1:36:24 - 2:20:16 Các chuyên gia đồng điệu

Explainable AI

AGI

Order sách "ChatGPT là gì? Phép lạ nào khiến nó hoạt động?" tại Oddly normal store

Tác giả Stephen Wolfram

Dịch bởi Oddly normal