Trong một bài viết gây chú ý gần đây, một giám đốc điều hành của một trong những công ty phát triển chatbot AI hàng đầu đã công khai thừa nhận một sự thật gây sốc: không ai thực sự hiểu rõ cách mà trí tuệ nhân tạo hoạt động. Tuyên bố này từ một người đứng đầu trong lĩnh vực công nghệ tiên tiến đã khiến nhiều người cảm thấy lo lắng về sự phát triển của công nghệ đang ngày càng ảnh hưởng đến cuộc sống hàng ngày của chúng ta.
“Khi một hệ thống AI tạo ra nội dung, chẳng hạn như tóm tắt một tài liệu phức tạp, chúng ta không thể xác định chính xác lý do tại sao nó lại đưa ra những quyết định đó – tại sao nó chọn từ này thay vì từ khác, hoặc tại sao đôi khi nó mắc lỗi dù thường xuyên chính xác,” vị giám đốc điều hành này cho biết.
Ông cũng nhấn mạnh rằng những người không làm việc trong lĩnh vực AI có thể sẽ ngạc nhiên khi biết rằng ngay cả những người phát triển công nghệ cũng “không hiểu rõ cách mà những sáng tạo AI của họ hoạt động” và bất kỳ ai lo lắng về sự thiếu hiểu biết này đều “có lý do để lo ngại”.
Để giải quyết vấn đề này, vị giám đốc đã công bố kế hoạch phát triển một công cụ tương tự như “MRI cho AI” trong thập kỷ tới. Mục tiêu không chỉ là tìm hiểu cách thức hoạt động của công nghệ mà còn để ngăn chặn những rủi ro không lường trước được liên quan đến bản chất bí ẩn của nó. Theo ông, “sự thiếu hiểu biết này là điều chưa từng có trong lịch sử công nghệ”.
Điều này cũng phần nào lý giải cho việc ông và một số đồng nghiệp đã rời khỏi một công ty công nghệ lớn vào cuối năm 2020 do những lo ngại về các thực hành an toàn của công ty. Họ lo ngại rằng công ty này đang bỏ qua những vấn đề an toàn để theo đuổi lợi nhuận. Sau đó, họ đã thành lập một công ty mới với mục tiêu phát triển AI an toàn hơn, trong đó một phần công việc tập trung vào việc tìm hiểu cách thức hoạt động của công nghệ này.
Trong thời gian gần đây, vị giám đốc cho biết công ty của ông không chỉ tập trung vào việc hướng dẫn AI theo hướng có lợi cho nhân loại, mà còn nghiên cứu khả năng rằng các nhà nghiên cứu có thể hiểu được cách thức hoạt động bên trong của các hệ thống này “trước khi các mô hình đạt đến sức mạnh áp đảo”.
Để minh họa cho những nỗ lực này, ông đã chia sẻ về một thí nghiệm gần đây của công ty. Trong thí nghiệm, một nhóm đã cố tình đưa vào một vấn đề trong một mô hình AI và giao cho một nhóm khác nhiệm vụ tìm ra lỗi. Nhiều nhóm đã thành công trong việc phát hiện vấn đề, một số thậm chí đã áp dụng hiệu quả các công cụ phân tích trong quá trình điều tra.
Mặc dù còn nhiều việc phải làm để mở rộng quy mô các công cụ này, nhưng điều thú vị là những người tại công ty này không chỉ đang nỗ lực phát triển AI tiên tiến hơn, mà còn tự giao cho mình nhiệm vụ tìm hiểu lý do và cách thức hoạt động của nó.
“AI mạnh mẽ sẽ định hình tương lai của nhân loại,” vị giám đốc kết luận, “và chúng ta xứng đáng hiểu rõ những sáng tạo của chính mình trước khi chúng có thể thay đổi hoàn toàn nền kinh tế, cuộc sống và tương lai của chúng ta.” Lời cảnh báo này từ một người trong ngành đặt ra câu hỏi về trách nhiệm của các công ty công nghệ trong việc phát triển những hệ thống mà họ chưa thực sự hiểu rõ, đồng thời nhấn mạnh tầm quan trọng của việc nghiên cứu sâu hơn về cách thức hoạt động của AI trước khi công nghệ này trở nên quá mạnh để kiểm soát.