Episode 23: Tận thế kẹp giấy

Giả sử chúng ta có một AI mà mục tiêu duy nhất của nó là tạo ra càng nhiều kẹp giấy càng tốt. AI sẽ nhanh chóng nhận ra rằng nó sẽ tốt hơn nhiều nếu như không có con người. Nếu người quyết định tắt nó đi, sẽ có ít kẹp giấy hơn. Hơn nữa, cơ thể người chứa rất nhiều nguyên tử có thể được chế tạo thành kẹp giấy. Tương lai mà AI này sẽ cố gắng hướng tới sẽ là một nơi có rất nhiều kẹp giấy nhưng không có con người.

Bản năng sinh tồn sẽ phát sinh ở bất cứ goal-oriented agent nào.

Show note:

00:00 – 46:43 Chẳng tình nào chặt nổi con dao

Hallucination

LLM (large language model)

Cybernetics

Automata theory

Symbolic AI

Formal language

Mechanical Turk

Deep Blue

Neural backpropagation

Convolutional neural network

Recurrent neural network

Feed forward neural network

Transformer

Gradient descent

Reinforment learning from human feedback

46:44 – 1:36:23 Thế năng positron

The Moral machine

Utility monster

Optimization function

Instrumental convergence

1:36:24 – 2:20:16 Các chuyên gia đồng điệu

Explainable AI

AGI

Order sách “ChatGPT là gì? Phép lạ nào khiến nó hoạt động?” tại Oddly normal store

Tác giả Stephen Wolfram

Dịch bởi Oddly normal

4 comments on “Episode 23: Tận thế kẹp giấy

  1. Hùng Vương Hoàng says:

    Cảm ơn team cuối cùng cũng ra tập mới về AI. Trong phút 31 team có nói về cơ chế thực sự cử SSRIs trong điều trị trầm cảm chưa được biết chính xác và 1 (vài) phân tích meta-analysis cho thấy thiếu hụt Serotonin trong neuron không phải là nguyên nhân gây trầm cảm. Em có thể xin reference tới các phân tích này được không ạ, em cảm ơn team rất nhiều, em xin để lại email ạ: [email protected]

  2. Tu Nguyen says:

    Thật vui vì anh chị đã lại ra tập mới 😀 Cơ mà có câu hỏi nhỏ là anh chị có định phát hành ebook cho “Miễn dịch” với “ChatGPT không ạ?

  3. bach says:

    Em sẵn sàng mua ebook cho 2 quyển Chatgpt với Miễn Dịch mà không cần suy nghĩ luôn. Mong team sẽ ra bản ebook ạ

  4. Mai says:

    với 1 người vừa học môn sinh lý xong thì đoạn ion pump, exon, synap, neurotransmitter làm em cảm thấy rất thân thương luôn ấy ạ

Leave a Reply

Your email address will not be published. Required fields are marked *