Thượng tướng Nguyễn Văn Thành (giữa) và Thiếu tá Cù Xuân Vũ trao đổi với các bạn trẻ về hiểm họa rác AI - Ảnh: T.ĐIỂU
Cuốn sách Rác trí tuệ nhân tạo (AI) - Thách thức trong kỷ nguyên số được Nhà xuất bản Chính trị quốc gia Sự Thật phối hợp với Trường đại học Công nghệ giao thông vận tải tổ chức lễ ra mắt chiều 23-9, tại Hà Nội.
Khi thông tin sai lệch không ngừng được nhân lên
Tại buổi lễ giới thiệu sách, Thượng tướng Nguyễn Văn Thành cùng các chuyên gia, đại biểu đã trao đổi với bạn đọc, sinh viên về những vấn đề đặt ra từ sự phát triển và ứng dụng AI, trong đó có nhận diện "rác AI" và yêu cầu sử dụng AI an toàn, hiệu quả, có trách nhiệm.
Ông chia sẻ một trong những hiện tượng đáng chú ý trong quá trình phát triển và ứng dụng AI hiện nay là sự xuất hiện và gia tăng của "rác AI".
Rác AI không chỉ là những sản phẩm thông tin sai lệch, dữ liệu nhiễu hay nội dung giả mạo do AI tạo ra, mà còn bao hàm những hệ quả tiêu cực phát sinh từ việc thiết kế, vận hành và sử dụng các hệ thống AI thiếu kiểm soát, thiếu chuẩn mực đạo đức và khung khổ pháp lý phù hợp.
Cuốn sách Rác trí tuệ nhân tạo (AI) - Thách thức trong kỷ nguyên số gồm 3 chương, làm rõ những vấn đề cơ bản về AI và "rác AI"; phân tích những thách thức đối với chính trị, xây dựng pháp luật và quản trị quốc gia, kinh tế, văn hóa, xã hội, quốc phòng, an ninh và đối ngoại; đồng thời đề xuất định hướng chính sách, giải pháp kiểm soát và quy trình phòng ngừa "rác AI".
Đáng chú ý, các tác giả chỉ ra khả năng những sản phẩm sai lệch do AI tạo ra tiếp tục trở thành dữ liệu cho các hệ thống AI khác, tạo thành vòng lặp tích tụ và khuếch đại sai lệch, ảnh hưởng đến chất lượng môi trường thông tin và hệ sinh thái dữ liệu.
Trên cơ sở đó, các tác giả cuốn sách nhấn mạnh yêu cầu chuyển từ ứng phó với hậu quả sang chủ động nhận diện, dự báo và phòng ngừa rủi ro; đề xuất quy trình 8 bước phòng ngừa "rác AI".
Đó là: nhận thức đúng về AI, kiểm soát thông tin đầu vào, đánh giá và kiểm chứng kết quả do AI tạo ra đến sử dụng AI đúng mục đích, thận trọng khi chia sẻ, tuân thủ pháp luật, đạo đức, văn hóa và không lan truyền những nội dung được nhận diện là "rác AI".
Cuốn sách ‘Rác trí tuệ nhân tạo (AI) - Thách thức trong kỷ nguyên số’ - Ảnh: THIÊN ĐIỂU
Tài liệu tham khảo hữu ích để hoàn thiện thể chế, pháp luật về AI
Phát biểu tại lễ giới thiệu sách, PGS.TS Vũ Trọng Lâm, Giám đốc - Tổng biên tập Nhà xuất bản Chính trị quốc gia Sự Thật, nhấn mạnh với cách tiếp cận liên ngành và hệ thống, cuốn sách đã góp phần nhận diện, luận giải một hiện tượng mới nảy sinh cùng với sự phát triển nhanh chóng của trí tuệ nhân tạo.
Đồng thời nó đặt vấn đề quản trị, kiểm soát "rác AI" trong mối quan hệ với đạo đức AI, quản trị công nghệ, an ninh con người và phát triển bền vững.
Bên cạnh giá trị lý luận, cuốn sách còn có giá trị thực tiễn và tham khảo chính sách sâu sắc, qua đó cung cấp thêm cơ sở cho việc nghiên cứu, hoạch định chính sách, hoàn thiện thể chế, pháp luật về AI; nâng cao năng lực quản trị quốc gia; xây dựng môi trường số an toàn, lành mạnh.
Ông Lâm đánh giá cuốn sách là tài liệu tham khảo hữu ích phục vụ công tác nghiên cứu, hoạch định chính sách, quản lý nhà nước, giảng dạy và học tập…
