Dạy AI giải quyết các lỗ hổng kiến thức

Thông tin Khoa học công nghệ

Thứ năm, 19/06/2025

Một nhóm nghiên cứu tại MIT đã sáng lập Themis AI nhằm định lượng mức độ không chắc chắn của các mô hình AI và khắc phục những khoảng trống trong tri thức của chúng.

Định lượng mức độ không chắc chắn của các mô hình AI

Các hệ thống trí tuệ nhân tạo như ChatGPT có thể đưa ra những câu trả lời nghe có vẻ hợp lý cho hầu hết mọi câu hỏi. Nhưng chúng không luôn tiết lộ những khoảng trống trong tri thức hoặc những lĩnh vực mà chúng còn chưa chắc chắn. Vấn đề này có thể gây hậu quả nghiêm trọng khi AI ngày càng được sử dụng trong các nhiệm vụ như phát triển thuốc, tổng hợp thông tin và điều khiển xe tự hành.

Hiện nay, công ty con của MIT - Themis AI - đang giúp định lượng mức độ không chắc chắn của các mô hình AI và điều chỉnh đầu ra trước khi chúng gây ra những vấn đề lớn hơn. Nền tảng Capsa của công ty có thể hoạt động với bất kỳ mô hình học máy nào để phát hiện và chỉnh sửa các đầu ra không đáng tin cậy chỉ trong vài giây. Nó hoạt động bằng cách điều chỉnh các mô hình AI để giúp chúng nhận biết các mẫu dữ liệu trong quá trình xử lý có dấu hiệu của sự mơ hồ, thiếu sót hoặc thiên lệch.

“Ý tưởng là lấy một mô hình, tích hợp nó với Capsa, xác định các điểm không chắc chắn và chế độ lỗi của mô hình, sau đó cải thiện mô hình đó”, đồng sáng lập Themis AI - GS MIT Daniela Rus (đồng thời là Giám đốc Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo MIT - CSAIL) cho biết. “Chúng tôi rất hào hứng khi có thể cung cấp một giải pháp giúp cải thiện các mô hình và đảm bảo rằng chúng hoạt động chính xác.”

Phòng thí nghiệm của Daniela Rus đã nghiên cứu về độ không chắc chắn của mô hình trong nhiều năm. Năm 2018, bà nhận được tài trợ từ Toyota để nghiên cứu độ tin cậy của giải pháp lái xe tự hành dựa trên học máy.

“Đó là một ngữ cảnh mà an toàn là yếu tố sống còn, nên việc hiểu độ tin cậy của mô hình là cực kỳ quan trọng,” Rus cho biết.

Năm 2021, những người đồng sáng lập tương lai đã chứng minh cách tiếp cận tương tự có thể giúp các công ty dược phẩm dùng mô hình AI để dự đoán các đặc tính của ứng viên thuốc. Sau đó, họ thành lập Themis AI trong năm đó.

“Hướng dẫn quy trình khám phá thuốc có thể giúp tiết kiệm rất nhiều chi phí,” Rus nói. “Đó là trường hợp ứng dụng giúp chúng tôi nhận ra sức mạnh tiềm năng của công cụ này.”

Ứng dụng trong nhiều ngành

Hiện nay, Themis AI đang hợp tác với các doanh nghiệp trong nhiều ngành khác nhau, trong đó nhiều công ty đang xây dựng các mô hình ngôn ngữ lớn (LLM). Nhờ Capsa, các mô hình này có thể lượng hóa mức độ không chắc chắn của từng đầu ra.

“Nhiều công ty rất quan tâm đến việc sử dụng các LLM được huấn luyện trên dữ liệu nội bộ, nhưng họ lo lắng về độ tin cậy,” Stewart Jamieson, Giám đốc công nghệ của Themis AI, nhận xét. “Chúng tôi giúp các LLM tự báo cáo độ tự tin và mức độ không chắc chắn, từ đó cải thiện độ tin cậy của câu trả lời và đánh dấu các đầu ra không đáng tin cậy.”

Themis AI cũng đang trao đổi với các công ty bán dẫn đang xây dựng các giải pháp AI có thể chạy trên chip, hoạt động ngoài môi trường điện toán đám mây.

“Thông thường, các mô hình nhỏ chạy trên điện thoại hoặc hệ thống nhúng không chính xác bằng mô hình trên server, nhưng chúng tôi có thể giúp đạt được hai mục tiêu cùng lúc: độ trễ thấp, điện toán biên hiệu quả mà không phải hy sinh chất lượng,” Jamieson giải thích. “Chúng tôi hình dung một tương lai nơi các thiết bị biên sẽ xử lý phần lớn công việc, nhưng khi chúng không chắc chắn về đầu ra, chúng có thể chuyển tác vụ đó lên máy chủ trung tâm.”

Các công ty dược phẩm cũng có thể sử dụng Capsa để cải thiện các mô hình AI dùng để xác định ứng viên thuốc và dự đoán hiệu quả của chúng trong các thử nghiệm lâm sàng.

“Các dự đoán và đầu ra của những mô hình này rất phức tạp và khó diễn giải — các chuyên gia phải dành rất nhiều thời gian và nỗ lực để hiểu chúng,” Amini nhận xét. “Capsa có thể cung cấp ngay từ đầu những thông tin chi tiết giúp hiểu liệu các dự đoán có được hỗ trợ bởi dữ liệu huấn luyện hay chỉ là suy đoán. Điều này có thể giúp tăng tốc quá trình xác định các dự đoán mạnh nhất, và chúng tôi cho rằng điều đó có tiềm năng đóng góp lớn cho xã hội”.

Theo Vietnamnet.vn (Nguồn: MIT News)