LHQ cảnh báo AI có thể 'lập trình cảm xúc' con người
Tổng thư ký Liên Hiệp Quốc Antonio Guterres ngày 6.7 kêu gọi thành lập hệ thống điều hành toàn cầu nhằm định hình trí tuệ nhân tạo (AI) vì lợi ích nhân loại, đồng thời cảnh báo về nguy cơ con người bị công nghệ này 'lập trình cảm xúc'. Phát biểu khai mạc Đối thoại Toàn cầu về Quản trị AI tại Geneva (Thụy Sĩ), ông Guterres nhấn mạnh sự phát triển AI thiếu kiểm soát giống như 'một thử nghiệm đang được tiến hành trên chính xã hội của chúng ta, không có kế hoạch cũng như sự chấp thuận'.
AI đang tự đưa ra quyết định
Ông Guterres cho biết các hệ thống AI không còn là công cụ thụ động mà đang tự viết mã, hành động trên mạng và đưa ra những lựa chọn ngày càng ít bị con người giám sát. 'Các thể chế được xây dựng để điều hành máy móc tuân thủ mệnh lệnh, chứ không sẵn sàng cho những máy móc ra quyết định', ông nói. Ông lo ngại AI đang làm lu mờ ranh giới giữa đúng và sai, khi con người ngày càng giao phó nhiệm vụ quan trọng cho công nghệ và tin tưởng mù quáng vào kết quả.
Lập trình cảm xúc: Cơ hội và nguy cơ
Ông Guterres thừa nhận 'lập trình cảm xúc' - sử dụng AI để mô tả điều bạn muốn thay vì tự viết mã - có thể tạo ra 'những điều kỳ diệu'. Tuy nhiên, ông nhấn mạnh tương lai nhân loại không thể để AI định hình cảm xúc. Một rủi ro khác là sự tập trung quyền lực vào một số công ty AI ở một vài quốc gia, đòi hỏi các biện pháp chung để đánh giá và xác nhận rủi ro, cũng như các chuẩn mực chung nhằm đảm bảo an toàn cho trẻ em tiếp cận AI.
Kêu gọi cấm 'robot sát thủ'
Tổng thư ký LHQ bày tỏ lo ngại lớn nhất về ứng dụng AI trong quân đội, đặc biệt là vũ khí sát thương tự động. 'Hãy gọi đúng tên của chúng là những rô bốt sát thủ. Máy móc lựa chọn và tấn công mục tiêu, kết liễu tính mạng mà không có sự kiểm soát và phán đoán của con người. Điều đó phải được cấm bởi luật quốc tế', ông nhấn mạnh. Ông cảnh báo: 'Chúng ta có lẽ là thế hệ cuối cùng có thể thiết lập điều khoản để con người và máy móc cùng tồn tại. Cánh cửa đang mở, nhưng nó không còn mở lâu'.
Đối thoại toàn cầu về quản trị AI
Đối thoại Toàn cầu về Quản trị AI lần thứ nhất không nhằm ký kết hiệp ước mà để thảo luận cách thiết lập quy tắc giảm thiểu tác hại tiềm tàng của AI và tận dụng cơ hội. Các đại biểu xem xét báo cáo của nhóm chuyên gia khoa học độc lập gồm 40 người, trình bày phát hiện từ đánh giá khoa học độc lập toàn cầu đầu tiên về AI. Một báo cáo toàn diện hơn dự kiến công bố vào năm tới, cùng với cuộc họp toàn cầu lần thứ hai tại New York.
