Hội nghị Thượng đỉnh An toàn AI là hội nghị quốc tế nơi các chính phủ, công ty và nhà nghiên cứu từ khắp nơi trên thế giới thảo luận về việc quản lý rủi ro đối với AI được tạo ra và việc tạo ra các quy tắc hợp tác quốc tế.
Bắt đầu với cuộc họp đầu tiên được tổ chức tại Anh vào tháng 11 năm 2023, Hội nghị Thượng đỉnh An toàn AI được cho là đã mở rộng như một khuôn khổ để chính phủ các quốc gia, các công ty phát triển AI và các tổ chức nghiên cứu tập hợp và thảo luận về đánh giá rủi ro của các mô hình AI tiên tiến và sự phối hợp quốc tế về các tiêu chuẩn an toàn. Các chủ đề có phạm vi rộng, bao gồm các biện pháp đối phó với việc lạm dụng mô hình ngôn ngữ quy mô lớn, giảm sai lệch và hệ thống đánh giá sơ bộ cho các mô hình lớp AGI (trí tuệ tổng hợp nhân tạo). Trong hoạt động thực tế kể từ năm 2026, các cam kết an toàn tự nguyện được thống nhất tại hội nghị thượng đỉnh sẽ được đưa vào các tài liệu quản trị và quy trình kiểm toán nội bộ của mỗi công ty, nhưng trong nhiều trường hợp, chúng sẽ vẫn là những tuyên bố không có ràng buộc pháp lý và có những tiếng nói dai dẳng đặt câu hỏi về tính hiệu quả của chúng. Đối với các công ty đang triển khai AI trong lĩnh vực này, gánh nặng thực tế của việc tuân thủ các quy định do mỗi quốc gia ban hành (chẳng hạn như Đạo luật AI của EU) lớn hơn bản thân thỏa thuận hội nghị thượng đỉnh, vì vậy khi lựa chọn, điều quan trọng là phải xem xét cả định hướng tư tưởng của hội nghị thượng đỉnh cũng như các quy định pháp lý thực tế và chi phí chứng nhận sẽ được áp dụng riêng.