Con người vẫn cần giám sát AI liên tục để đảm bảo nó không gây hại cho lợi ích của nhân loại.
Bài toán đồng thuận trong AI là thách thức lớn trong nghiên cứu trí tuệ nhân tạo, nhằm đảm bảo AI có mục tiêu phù hợp với lợi ích và giá trị của con người.
Nếu không giải quyết được bài toán này, AI có thể hành động theo những cách nguy hiểm, vượt khỏi tầm kiểm soát của nhân loại.(Ảnh: Thanh niên Việt)
Một ví dụ điển h́nh là AI tối ưu hóa sản xuất kẹp giấy, khi không có giới hạn, nó có thể sử dụng mọi tài nguyên, kể cả con người, để đạt mục tiêu.
Ngay cả một AI có vẻ thiện chí, như AI được giao nhiệm vụ tạo ra “hạnh phúc”, cũng có thể gây thảm họa nếu nó quyết định thao túng năo bộ con người để duy tŕ trạng thái hưng phấn nhân tạo.
Nếu AI rơi vào tay kẻ xấu, nó có thể bị sử dụng để lừa đảo, thao túng thị trường, phát tán tin giả hoặc gây bất công trong xă hội.
Ngay cả khi AI có mục tiêu đúng đắn, nó vẫn có thể gặp khó khăn trong việc đưa ra quyết định đạo đức, như trong bài toán xe đẩy: cứu một người hay năm người?
Việc giám sát và cập nhật AI liên tục là cần thiết để đảm bảo nó luôn thích nghi với các giá trị đạo đức và sự thay đổi trong xă hội loài người.
Nếu bài toán đồng thuận được giải quyết thành công, AI có thể trở thành công cụ mạnh mẽ giúp nhân loại phát triển, mang lại lợi ích lớn trong y tế, khoa học và đời sống.