Karen Hao về Đế chế AI, những người truyền đạo AGI, và cái giá của niềm tin

Phân tích của Karen Hao, được trình bày trong cuốn sách của cô và thảo luận tại một sự kiện của TechCrunch, khung ngành công nghiệp AI—đặc biệt là OpenAI—như một đế chế mới nổi được thúc đẩy bởi ý thức hệ trí tuệ nhân tạo tổng quát (AGI) hứa hẹn “mang lại lợi ích cho toàn nhân loại.” Hao lập luận rằng OpenAI nắm giữ quyền lực kinh tế và chính trị chưa từng có, tái định hình địa chính trị và cuộc sống hàng ngày giống như một đế chế thực dân. Sứ mệnh dựa trên AGI này đã biện minh cho việc mở rộng phát triển AI nhanh chóng và quy mô lớn, thường phải đánh đổi an toàn, hiệu quả và các cân nhắc đạo đức. Sự tập trung của ngành vào tốc độ và quy mô—chủ yếu bằng cách tận dụng dữ liệu khổng lồ và tài nguyên siêu máy tính—đã làm lu mờ các phương pháp tiếp cận thay thế có thể ưu tiên đổi mới thuật toán và tính bền vững nhưng tiến triển chậm hơn. Hao nhấn mạnh rằng việc theo đuổi không ngừng AGI này đã dẫn đến chi tiêu tài chính khổng lồ của các công ty công nghệ lớn, với riêng OpenAI dự kiến chi tiêu lớn đến năm 2029, và những công ty khác như Meta và Google cũng đầu tư mạnh vào cơ sở hạ tầng AI. Mặc dù có những khoản đầu tư này, những lợi ích xã hội rộng lớn được hứa hẹn...