Người đồng sáng lập Ethereum Vitalik Buterin gần đây đã đăng bài trên X (trước đây là Twitter), thẳng thắn nói rằng việc phát triển trí tuệ nhân tạo (AI) hiện nay quá chú trọng vào "tính tự chủ", bỏ qua giá trị của con người trong quá trình ra quyết định và đầu ra. Ông kêu gọi ngành công nghiệp nên tăng cường các con đường đầu vào của con người, thúc đẩy các mô hình trọng số mở có chức năng chỉnh sửa, đồng thời đưa ra ý tưởng kết hợp giao diện não-máy (BCI) để đạt được phản hồi và điều chỉnh ngay lập tức, vẽ ra một bức tranh về sự phát triển AI có tính người hơn.
Từ chối AI «đại lý tự động hoàn toàn», nhấn mạnh sự tham gia của con người
Vitalik cho biết, hệ thống "đại lý" đang thịnh hành trong lĩnh vực AI hiện nay, cố gắng tự hoàn thành nhiệm vụ với rất ít giám sát của con người, xu hướng này khiến ông cảm thấy chán nản. Ông tin rằng, đầu vào của con người không chỉ có thể nâng cao chất lượng đầu ra mà còn có thể tăng cường đáng kể tính an toàn.
Ông đặc biệt thích những mô hình trọng số mở có "chức năng biên tập", cho phép các nhà phát triển và người dùng can thiệp, sửa đổi hoặc hướng dẫn đầu ra ngay trong quá trình tạo ra, thay vì chỉ có thể tạo ra kết quả từ con số không.
với quan điểm của Karpathy: AI cần "tính kiểm soát"
Quan điểm của Vitalik phù hợp với bài phát biểu gần đây của Andrej Karpathy, cựu giám đốc AI của Tesla. Karpathy cảnh báo rằng không nên coi các mô hình ngôn ngữ lớn là các đại diện tự trị hoàn toàn đáng tin cậy, và nhấn mạnh tầm quan trọng của giám sát con người, sự nhắc nhở cẩn thận và phát triển dần dần.
Ý tưởng này đang dẫn dắt ngành công nghiệp chuyển sang mô hình "hợp tác giữa người và máy".
1、Cung cấp giao diện chỉnh sửa trực quan hơn
2, Hỗ trợ cắt tỉa và hiệu chỉnh ngay lập tức trong quá trình tạo.
Giảm thiểu ảo giác và sai lệch, đảm bảo đầu ra phù hợp với ý định của con người và tiêu chuẩn an toàn.
Giao diện não máy (BCI) + AI: Tương lai phản hồi tức thì
Vitalik đã tiến xa hơn khi đề xuất rằng tầm nhìn trung hạn là kết hợp công nghệ BCI, cho phép AI có thể cảm nhận ngay lập tức phản ứng cảm xúc của người dùng khi tạo nội dung, và tự động điều chỉnh đầu ra dựa trên sở thích.
Ý tưởng này không phải là chuyện trên trời:
1、Các công ty như Neuralink, Synchron đã khởi động thử nghiệm trên người và cấy ghép tối thiểu.
2、Thiết bị đeo được dựa trên điện não đồ (EEG) đang cố gắng giải mã trạng thái chú ý và cảm xúc.
3、Giới học thuật đã đạt được tiến bộ trong công nghệ "tính toán cảm xúc" và gán nhãn cảm xúc.
4、Mặc dù giải mã cảm xúc không xâm lấn vẫn còn thách thức, nhưng sự phát triển công nghệ đang dần đưa tầm nhìn này đến gần với thực tế.
Mở quyền nặng và an ninh: Cuộc tranh luận hai lưỡi
Gần đây, OpenAI đã bất ngờ phát hành các mô hình trọng số mở như gpt-oss-120b và gpt-oss-20b, gây ra nhiều tranh cãi. Những người ủng hộ cho rằng điều này sẽ giúp dân chủ hóa phát triển AI, giúp các nhóm dễ dàng xây dựng quy trình làm việc lấy con người làm trung tâm và kiểm tra các rủi ro an toàn; nhưng những người chỉ trích lo ngại rằng việc phân phối rộng rãi các mô hình mạnh mẽ có thể mang lại rủi ro lạm dụng.
Quan điểm của Vitalik rất rõ ràng: một đầu ra tốt hơn và một hệ thống an toàn hơn đến từ việc đặt sở thích của con người và các tín hiệu phức tạp vào trung tâm quy trình làm việc của AI.
Kết luận
Lời phát biểu của Vitalik Buterin phản ánh một cuộc tranh luận cốt lõi trong sự phát triển của AI: liệu có nên để các mô hình hoàn toàn tự chủ, hay nên để con người giữ quyền kiểm soát ngay lập tức? Với sự tiến bộ của các mô hình trọng số mở, giao diện não-máy và công nghệ phát hiện cảm xúc, khả năng hợp tác giữa người và máy đang nhanh chóng mở rộng. AI trong tương lai có thể không còn là một chiếc hộp đen "quyết định thay bạn", mà là một người bạn thông minh có thể sáng tạo cùng bạn và tương tác ngay lập tức.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Vitalik tiết lộ kế hoạch tương lai của AI: từ chối hoàn toàn tự động hóa, tôn vinh sự kiểm soát tức thì của con người và giao diện não-máy.
Người đồng sáng lập Ethereum Vitalik Buterin gần đây đã đăng bài trên X (trước đây là Twitter), thẳng thắn nói rằng việc phát triển trí tuệ nhân tạo (AI) hiện nay quá chú trọng vào "tính tự chủ", bỏ qua giá trị của con người trong quá trình ra quyết định và đầu ra. Ông kêu gọi ngành công nghiệp nên tăng cường các con đường đầu vào của con người, thúc đẩy các mô hình trọng số mở có chức năng chỉnh sửa, đồng thời đưa ra ý tưởng kết hợp giao diện não-máy (BCI) để đạt được phản hồi và điều chỉnh ngay lập tức, vẽ ra một bức tranh về sự phát triển AI có tính người hơn.
Từ chối AI «đại lý tự động hoàn toàn», nhấn mạnh sự tham gia của con người
Vitalik cho biết, hệ thống "đại lý" đang thịnh hành trong lĩnh vực AI hiện nay, cố gắng tự hoàn thành nhiệm vụ với rất ít giám sát của con người, xu hướng này khiến ông cảm thấy chán nản. Ông tin rằng, đầu vào của con người không chỉ có thể nâng cao chất lượng đầu ra mà còn có thể tăng cường đáng kể tính an toàn.
Ông đặc biệt thích những mô hình trọng số mở có "chức năng biên tập", cho phép các nhà phát triển và người dùng can thiệp, sửa đổi hoặc hướng dẫn đầu ra ngay trong quá trình tạo ra, thay vì chỉ có thể tạo ra kết quả từ con số không.
với quan điểm của Karpathy: AI cần "tính kiểm soát"
Quan điểm của Vitalik phù hợp với bài phát biểu gần đây của Andrej Karpathy, cựu giám đốc AI của Tesla. Karpathy cảnh báo rằng không nên coi các mô hình ngôn ngữ lớn là các đại diện tự trị hoàn toàn đáng tin cậy, và nhấn mạnh tầm quan trọng của giám sát con người, sự nhắc nhở cẩn thận và phát triển dần dần.
Ý tưởng này đang dẫn dắt ngành công nghiệp chuyển sang mô hình "hợp tác giữa người và máy".
1、Cung cấp giao diện chỉnh sửa trực quan hơn
2, Hỗ trợ cắt tỉa và hiệu chỉnh ngay lập tức trong quá trình tạo.
Giao diện não máy (BCI) + AI: Tương lai phản hồi tức thì
Vitalik đã tiến xa hơn khi đề xuất rằng tầm nhìn trung hạn là kết hợp công nghệ BCI, cho phép AI có thể cảm nhận ngay lập tức phản ứng cảm xúc của người dùng khi tạo nội dung, và tự động điều chỉnh đầu ra dựa trên sở thích.
Ý tưởng này không phải là chuyện trên trời:
1、Các công ty như Neuralink, Synchron đã khởi động thử nghiệm trên người và cấy ghép tối thiểu.
2、Thiết bị đeo được dựa trên điện não đồ (EEG) đang cố gắng giải mã trạng thái chú ý và cảm xúc.
3、Giới học thuật đã đạt được tiến bộ trong công nghệ "tính toán cảm xúc" và gán nhãn cảm xúc.
4、Mặc dù giải mã cảm xúc không xâm lấn vẫn còn thách thức, nhưng sự phát triển công nghệ đang dần đưa tầm nhìn này đến gần với thực tế.
Mở quyền nặng và an ninh: Cuộc tranh luận hai lưỡi
Gần đây, OpenAI đã bất ngờ phát hành các mô hình trọng số mở như gpt-oss-120b và gpt-oss-20b, gây ra nhiều tranh cãi. Những người ủng hộ cho rằng điều này sẽ giúp dân chủ hóa phát triển AI, giúp các nhóm dễ dàng xây dựng quy trình làm việc lấy con người làm trung tâm và kiểm tra các rủi ro an toàn; nhưng những người chỉ trích lo ngại rằng việc phân phối rộng rãi các mô hình mạnh mẽ có thể mang lại rủi ro lạm dụng.
Quan điểm của Vitalik rất rõ ràng: một đầu ra tốt hơn và một hệ thống an toàn hơn đến từ việc đặt sở thích của con người và các tín hiệu phức tạp vào trung tâm quy trình làm việc của AI.
Kết luận
Lời phát biểu của Vitalik Buterin phản ánh một cuộc tranh luận cốt lõi trong sự phát triển của AI: liệu có nên để các mô hình hoàn toàn tự chủ, hay nên để con người giữ quyền kiểm soát ngay lập tức? Với sự tiến bộ của các mô hình trọng số mở, giao diện não-máy và công nghệ phát hiện cảm xúc, khả năng hợp tác giữa người và máy đang nhanh chóng mở rộng. AI trong tương lai có thể không còn là một chiếc hộp đen "quyết định thay bạn", mà là một người bạn thông minh có thể sáng tạo cùng bạn và tương tác ngay lập tức.