Có một cuộc tranh luận lớn đang diễn ra ở Thung lũng Silicon về trí tuệ nhân tạo và tiếc là tiền đặt cược khá cao: Liệu chúng ta có vô tình tạo ra một A.I siêu thông minh. điều đó làm bật chúng ta và giết chết hoặc nô dịch tất cả chúng ta?
Điều này nghe có vẻ giống như kịch bản của một bộ phim thảm họa mùa hè, nhưng nó đã khiến một số tên tuổi khá lớn lo lắng, từ Elon Musk đến cuối Stephen Hawking .
'Giả sử bạn tạo ra một A.I tự cải thiện bản thân. hái dâu tây, ' Musk đã nói , giải thích nỗi sợ hãi của mình, 'và nó ngày càng giỏi hơn khi hái dâu tây và hái ngày càng nhiều hơn và nó đang tự cải thiện, vì vậy tất cả những gì nó thực sự muốn làm là hái dâu tây. Vì vậy, sau đó nó sẽ có tất cả thế giới là những cánh đồng dâu tây. Ruộng dâu muôn năm. ' Con người theo cách của loài dâu tây-pacalypse này sẽ chỉ là một chất kích thích đáng ghét đối với A.I.
Nhưng chắc chắn con người sẽ không ngớ ngẩn đến mức vô tình thiết kế một A.I. được thúc đẩy để biến tất cả nền văn minh thành một trang trại berry khổng lồ? Có lẽ không, nhưng như Janelle Shane , một nhà nghiên cứu đào tạo mạng nơ-ron, một loại thuật toán học máy, gần đây đã lưu ý về blog của cô ấy, A.I. Sự kì lạ , hoàn toàn có thể họ có thể làm điều đó do nhầm lẫn.
Trên thực tế, còn lâu mới là lần đầu tiên con người nghĩ rằng họ đang chế tạo rô bốt cho một nhiệm vụ duy nhất là quay lại và phát hiện ra rô bốt đang chơi trò chơi hệ thống theo cách họ không bao giờ dự định. Bài đăng hấp dẫn đào sâu vào tài liệu học thuật để chia sẻ một số ví dụ về robot đã trở nên hoang dã. Chúng hài hước, thông minh, và kết hợp với nhau, hơn cả là một chút rùng rợn.
1. Ai cần chân khi bạn có thể nhào lộn?
'Một robot mô phỏng được cho là sẽ tiến hóa để di chuyển nhanh nhất có thể. Nhưng thay vì tiến hóa đôi chân, nó chỉ đơn giản là tự lắp ráp thành một tòa tháp cao, sau đó ngã nhào. Một số robot thậm chí còn học được cách biến chuyển động rơi của chúng thành một trò lộn nhào, tăng thêm khoảng cách, 'Shane viết.
2. Một robot có thể-có thể.
'Một nhóm robot mô phỏng khác được cho là tiến hóa thành một dạng có thể nhảy. Nhưng lập trình viên ban đầu đã định nghĩa chiều cao nhảy là chiều cao của khối cao nhất nên - một lần nữa - các robot đã tiến hóa để rất cao, 'Shane giải thích. 'Lập trình viên đã cố gắng giải quyết vấn đề này bằng cách xác định chiều cao nhảy là chiều cao của khối ban đầu là' thấp nhất '. Để đáp lại, robot đã phát triển một chiếc chân dài gầy guộc mà nó có thể đá cao lên không trung theo kiểu robot có thể tự do. '
3. Ẩn bài kiểm tra và bạn không thể trượt nó.
'Có một thuật toán được cho là sắp xếp một danh sách các số. Thay vào đó, nó đã học cách xóa danh sách để không còn bị lỗi về mặt kỹ thuật nữa ', Shane kể lại.
4. Sai số toán học đánh bại nhiên liệu phản lực.
'Trong một mô phỏng, robot đã học được rằng các lỗi làm tròn nhỏ trong phép tính toán lực có nghĩa là chúng có thêm một chút năng lượng nhỏ khi chuyển động. Họ học cách co giật nhanh chóng, tạo ra rất nhiều năng lượng miễn phí mà họ có thể khai thác, Shane nói. Này, đó là gian lận!
5. Một chiến lược tic-tac-toe bất khả chiến bại (nếu phá hoại).
Có lần một nhóm 'lập trình viên đã xây dựng các thuật toán có thể chơi tic-tac-toe từ xa với nhau trên một bảng lớn vô hạn', Shane lưu ý. 'Một lập trình viên, thay vì thiết kế chiến lược thuật toán của họ, hãy để nó phát triển cách tiếp cận của riêng mình. Đáng ngạc nhiên, thuật toán đột nhiên bắt đầu chiến thắng tất cả các trò chơi của nó. Hóa ra chiến lược của thuật toán là đặt nước đi của nó ở rất, rất xa, để khi máy tính của đối thủ cố gắng mô phỏng bảng mạch mới được mở rộng rất nhiều, bảng trò chơi khổng lồ sẽ khiến nó hết bộ nhớ và bị hỏng, khiến trò chơi. '
6. Không có trục trặc trò chơi hữu ích nào không được khai thác.
'Các thuật toán chơi trò chơi trên máy tính thực sự giỏi trong việc phát hiện ra các loại trục trặc của Ma trận mà con người thường học cách khai thác để chạy tốc độ. Một thuật toán chơi trò chơi Atari cũ Q * bert đã phát hiện ra một lỗi chưa từng biết trước đó, nơi nó có thể thực hiện một loạt các bước di chuyển rất cụ thể ở cuối một cấp độ và thay vì chuyển sang cấp độ tiếp theo, tất cả các nền tảng sẽ bắt đầu nhấp nháy nhanh chóng và Shane nói.
7. Xin lỗi, phi công.
Ví dụ này là siêu cao trên thang độ rùng rợn: 'Có một thuật toán được cho là tìm ra cách tác dụng một lực tối thiểu lên một chiếc máy bay hạ cánh trên một tàu sân bay. Thay vào đó, nó phát hiện ra rằng nếu nó áp dụng một lực 'lớn', nó sẽ làm tràn bộ nhớ của chương trình và thay vào đó sẽ đăng ký dưới dạng một lực rất 'nhỏ'. Phi công sẽ chết nhưng, này, điểm tuyệt đối. '
Vậy có phải tất cả chúng ta đều cam chịu?
Tất cả những điều này kết hợp lại với nhau cho thấy rằng con người khá tệ trong việc đoán xem robot sẽ giải quyết các vấn đề mà chúng ta đặt ra cho chúng như thế nào hoặc thậm chí là cách chúng xác định vấn đề. Vậy điều đó có nghĩa là Shane cũng lo lắng về việc vô tình xây dựng A.I. lãnh chúa như Musk là? Không hẳn, nhưng không phải vì cô ấy chắc chắn rằng các lập trình viên con người thực sự có khả năng xử lý tốt các robot mà họ đang tạo ra. Thay vào đó, cô ấy dựa vào sự lười biếng của robot để cứu chúng ta.
'Là lập trình viên, chúng tôi phải rất cẩn thận rằng các thuật toán của chúng tôi đang giải quyết các vấn đề mà chúng tôi muốn họ giải quyết, chứ không phải khai thác các phím tắt. Nếu có một lộ trình khác dễ dàng hơn để giải quyết một vấn đề nhất định, máy học có thể sẽ tìm ra nó, 'cô nhận xét. “May mắn thay cho chúng tôi, 'giết tất cả con người' thực sự rất khó. Nếu 'nướng một chiếc bánh ngon không tưởng' cũng giải quyết được vấn đề và dễ dàng hơn là 'giết tất cả con người', thì học máy sẽ đi cùng với bánh. '
