Chi tiết tin tin tức sự kiện - Sở Khoa học và Công nghệ

 

Chào mừng bạn đến với Cổng thông tin điện tử KH&CN Quảng Trị
Tin tức - Sự kiện: Tin tổng hợp

Ngày đăng: 07-12-2023

Quản lý trí tuệ nhân tạo: chống rủi ro và đảm bảo minh bạch trong môi trường toàn cầu

Vào cuối tháng 10/2023, Tổng Thư ký Liên hợp quốc, Antonio Guterres, đã thành lập Ban cố vấn phụ trách khuyến nghị trong lĩnh vực trí tuệ nhân tạo (AI), một công nghệ mang đến tiềm năng đổi mới đáng kể, nhưng cũng đồng thời đặt ra nhiều rủi ro tiềm tàng.

Ban cố vấn bao gồm 39 chuyên gia từ khắp nơi trên thế giới. Tư cách thành viên được cân bằng về giới tính, đa dạng về mặt địa lý và đa thế hệ. Ban này dự kiến sẽ đưa ra các khuyến nghị vào cuối năm nay về các lĩnh vực quản trị quốc tế về AI, chia sẻ hiểu biết về rủi ro và thách thức cũng như các cơ hội và khả năng chính để tận dụng AI nhằm đẩy nhanh các mục tiêu SDG.

Các khuyến nghị sẽ được đưa vào quá trình chuẩn bị cho Hội nghị thượng đỉnh Tương lai, nhằm tái khẳng định cam kết phát triển bền vững và đặc biệt là các cuộc đàm phán xung quanh Hiệp ước Kỹ thuật số Toàn cầu được đề xuất nhằm đảm bảo rằng mọi người đều được hưởng lợi trong kỷ nguyên công nghệ mới.

Ông Guterres chỉ ra sự tiến bộ phi thường về khả năng và việc sử dụng AI trong năm qua, bao gồm thông qua chatbot, nhân bản giọng nói, trình tạo hình ảnh và ứng dụng video. Ông nói, thậm chí khó có thể nắm bắt được tiềm năng biến đổi tốt đẹp của AI, đồng thời nhấn mạnh nhu cầu cấp thiết phải giải quyết vấn đề này khi các quốc gia phải đối mặt với tác động của biến đổi khí hậu và nỗ lực hướng tới phát triển bền vững bị đình trệ. “AI có thể giúp xoay chuyển tình thế đó”, ông nói. “Nó có thể thúc đẩy các nỗ lực và hành động về khí hậu nhằm đạt được 17 Mục tiêu Phát triển Bền vững (SDG) vào năm 2030”. Tổng thư ký Liên hợp quốc tin rằng AI có thể mở rộng quy mô và khuếch đại công việc của các chính phủ, xã hội dân sự và Liên hợp quốc - từ dự đoán và giải quyết khủng hoảng đến triển khai các dịch vụ giáo dục và y tế công cộng.

Bên cạnh việc tận hưởng những tiến bộ xuất sắc của AI trong nhiều lĩnh vực như y tế, giáo dục và ứng phó với biến đổi khí hậu, quản lý và khai thác AI một cách có trách nhiệm đang trở thành một thách thức lớn đối với mỗi quốc gia. Trải qua một năm, thế giới đã chứng kiến sự phát triển vượt bậc của AI thông qua các ứng dụng như chatbot, nhân bản giọng nói và ứng dụng video.

Tuy nhiên, điều này đồng thời đi kèm với những lo ngại nghiêm trọng về thông tin sai lệch, phân biệt đối xử, xâm phạm quyền riêng tư và các hành vi vi phạm quyền con người. Một số nghiên cứu chỉ ra rằng, mặc dù mô hình ngôn ngữ AI mã nguồn mở Llama 2 của Tập đoàn Meta có chỉ số minh bạch cao nhất, nhưng vẫn không đáp ứng đầy đủ tiêu chí về minh bạch.

Các nhà khoa học tại Đại học Stanford cũng lưu ý rằng mô hình AI thường thiếu tính minh bạch do thiếu thông tin về cách hoạt động của chúng. Nhìn chung, các công ty AI hiện nay cần nâng cao chỉ số minh bạch của mình, theo đánh giá từ 80-100%, để đảm bảo quản lý AI một cách an toàn và hiệu quả.

Trong nỗ lực giải quyết các rủi ro liên quan đến AI, các nước trên thế giới, bao gồm Liên minh châu Âu, Mỹ, Anh, Trung Quốc và Canada, đang đặt vấn đề minh bạch lên hàng đầu trong chính sách quản lý công nghệ AI. Nhà nghiên cứu Rishi Bommasani khẳng định rằng các công ty AI cần đạt được chỉ số minh bạch cao, từ 80-100%, để chính sách quản lý có hiệu quả.

Với sự lo ngại ngày càng tăng về an toàn và ảnh hưởng của AI, nhiều nhà khoa học và lãnh đạo tập đoàn lớn như Elon Musk và Geoffrey Hinton đã kêu gọi tạm dừng phát triển các hệ thống AI mạnh trong một khoảng thời gian nhất định. Ông Hinton cảnh báo về mối đe dọa cấp bách của AI đối với nhân loại và kêu gọi các chính phủ thực hiện biện pháp ngăn chặn.

Trong khi đó, các nước như EU và Anh đang đẩy mạnh quá trình hoạch định chính sách quản lý AI. EU dự kiến sẽ đưa ra bộ luật đầu tiên trên thế giới về quản lý AI vào cuối năm 2023. Anh cũng sẽ tổ chức Hội nghị cấp cao về an toàn AI để thảo luận về nguy cơ tội phạm và các vấn đề khác liên quan đến công nghệ tiên tiến này.

Nhằm giải quyết các rủi ro liên quan đến AI, Thủ tướng Anh Rishi Sunak đã thông báo về việc thành lập Viện an toàn AI đầu tiên trên thế giới. Điều này nhấn mạnh sự quan trọng của việc đầu tư vào an toàn AI và sự cần thiết của sự giám sát trong quá trình phát triển công nghệ này.

Trong bối cảnh những thách thức và cơ hội mà AI mang lại, Ban cố vấn về AI do Tổng Thư ký Liên hợp quốc thành lập sẽ đóng vai trò quan trọng trong việc đưa ra khuyến nghị và đề xuất cách thức quản lý AI một cách hiệu quả, đồng thời nhận định rủi ro và cơ hội từ công nghệ này.

https://vista.gov.vn/

LỊCH CÔNG TÁC TUẦN

CHUYÊN MỤC KH&CN SỐ 5-2016

Thống kê truy cập
Số người online: 1
Hôm nay: 961
Tổng lượt truy cập: 2.809.907
© CỔNG THÔNG TIN ĐIỆN TỬ KHOA HỌC VÀ CÔNG NGHỆ QUẢNG TRỊ
Chịu trách nhiệm: Trần Ngọc Lân, Giám đốc Sở Khoa học và Công nghệ. Địa chỉ: 204 Hùng Vương, Đông Hà; ĐT: 0233.3550 382.