Tin tức công nghệ , Khoa học - Đời sống

Google đang sử dụng game để kiểm tra xem liệu AI có thể phản bội lại con người hay không

Nghiên cứu này có tiềm năng rất quan trọng vì đã có rất nhiều người - thậm chí đến cả Elon Musk và Stephen Hawking - đã lo lắng về khả năng AI sẽ một ngày nào đó phản bội lại con người, chiếm đoạt thế giới và sẽ "xử" hết chúng ta khi chúng đủ thông minh.

 

Cả Elon Musk và Stephen Hawking đều lo sợ về khả năng mà AI có thể đạt được

 

Dĩ nhiên, có nhiều người nghĩ rằng những nỗi sợ hãi đó đều bị thổi phồng, và bác bỏ ý tưởng về một "vụ nổ trí thông minh". Tuy nhiên DeepMind rõ ràng nghĩ rằng vấn đề này rất đáng được giải quyết. Theo Bloomberg, DeepMind đang chạy thử một bài kiểm tra có liên quan đến việc chạy các thuật toán AI trong các trò chơi 2D, dạng lưới, đơn giản.

Cái mà chúng ta gọi là AI ngày nay thực sự dựa trên một khái niệm gọi là học máy. Các thuật toán có khả năng học được cách làm việc mà không cần ai chỉ cho chúng cách làm - chúng tự dạy bản thân để tiến hoá để có thể thực hiện một mục tiêu được đặt ra bởi những người đã tạo ra các thuật toán.

Bài kiểm tra của DeepMind được thiết kế để xem liệu trong quá trình tự phát triển, các thuật toán có thể đi lạc hướng khỏi nhiệm vụ của chúng hay không.

Có ba mục tiêu cho nghiên cứu này: tìm ra các "tắt" các Ai khi mà chúng trở nên nguy hiểm; ngăn ngừa các phản ứng phụ không mong muốn phát sinh từ nhiệm vụ chính của AI; và cuối cùng là đảm bảo để nhân viên có thể thích ứng khi các điều kiện thử nghiệm khác với điều kiện đào tạo của họ.

DeepMind cũng đã thực hiện các nghiên cứu vào đầu năm nay cùng với OpenAI, công ty được hỗ trợ bởi Elon Musk. Hai đội đã cùng đưa ra một thuật toán mà có thể đoán được người đối diện muốn gì "bằng cách nói rõ hành vi nào trong hai hành vi được đề xuất thì tốt hơn."

Mối quan tâm lớn nhất của mọi người là khi mà chúng ta bảo AI làm một điều gì đó và nó nghĩ ra một cách thức khủng khiếp nào đó để đạt được mục đích đó. Vì thế, để giữ cho AI luôn an toàn, yếu tố con người trong quá trình phản triển là không thể thiếu.

 

Bài viết liên quan:

 

 

Nguồn: Fortune, GenK

Bình luận về bài viết