Portal 2 là một trò chơi giải đố góc nhìn thứ nhất. Người chơi sẽ nhập vai Chell trong chiến dịch chơi đơn, là một trong hai người máy — Atlas và P-Body. Bạn từ đầu sẽ được nhận một khẩu súng và thứ bạn bắn ra sẽ không phải đạn thường mà là Portal - cổng không gian giúp bạn di chuyển tức thời. Trong đó có cảnh AI có thể bị "giết" bằng cách nghĩ về một nghịch lý.
Điều này hoạt động bằng cách buộc AI vào một vòng lặp vô hạn về cơ bản sẽ "đóng băng" ý thức của máy tính.
Bài toán kinh điển này cho thấy sự hiểu lầm cơ bản về những gì một trí thông minh nhân tạo nói chung có thể sẽ mắc phải. Đầu tiên, hãy xem xét trò đùa của lập trình viên này:
Vợ của lập trình viên không thể chịu đựng được nữa. Mọi cuộc thảo luận với chồng đều trở thành một cuộc tranh cãi về ngữ nghĩa, chọn ra từng chi tiết nhỏ nhặt. Một ngày nọ, cô ấy gửi anh ta đến cửa hàng tạp hóa để lấy một số trứng. Trên đường ra khỏi cửa, cô ấy nói, "Trong khi anh ở đó, hãy lấy sữa."
Và anh ấy đã không bao giờ quay trở lại.
Đó là một cách thú vị, nhưng nó không thực tế lắm.
Giả định AI đang được thực thi bởi một máy tính, nó phải thể hiện cùng một mức độ giống trò đùa ở trên. Nhưng AI không chỉ đơn giản là một số chương trình máy tính dài dòng được mã hóa cứng với đủ câu lệnh if và vòng lặp while để tính toán cho mọi đầu vào có thể và tuân theo các kết quả được chỉ định.
while (command not completed)
find solution()
Đây không phải là một AI mạnh.
Theo bất kỳ định nghĩa cổ điển nào về trí tuệ nhân tạo nói chung, bạn tạo ra một hệ thống bắt chước một số dạng nhận thức thể hiện khả năng giải quyết vấn đề và học tập thích ứng. Bất kỳ AI nào có thể bị mắc kẹt trong một "vòng lặp vô hạn" như vậy đều không phải là AI học tập. Nó chỉ là một công cụ suy luận lỗi.
