Mặc dù điều này có vẻ như là một điều xa vời, nhưng báo cáo Tình trạng AI có trách nhiệm năm 2021 của FICO cho thấy 65% công ty thực sự không thể giải thích cách thức đưa ra các quyết định hoặc dự đoán mô hình AI cụ thể.
Mặc dù không thể phủ nhận rằng AI đang giúp thúc đẩy các doanh nghiệp và xã hội của chúng ta phát triển với tốc độ cực nhanh, nhưng chúng ta cũng đã thấy những tác động tiêu cực mà việc thiếu giám sát có thể mang lại.
Hết nghiên cứu này đến nghiên cứu khác đã chỉ ra rằng việc ra quyết định dựa trên AI có khả năng dẫn đến các kết quả sai lệch, từ phân biệt chủng tộc trong các thuật toán kiểm soát dự đoán cho đến các quyết định tuyển dụng phân biệt giới tính .
Khi các chính phủ và doanh nghiệp áp dụng các công cụ AI với tốc độ nhanh chóng, đạo đức AI sẽ ảnh hưởng đến nhiều khía cạnh của xã hội. Tuy nhiên, theo báo cáo của FICO, 78% công ty cho biết họ “được trang bị kém để đảm bảo ý nghĩa đạo đức của việc sử dụng các hệ thống AI mới” và chỉ 38% có các bước phát hiện và giảm thiểu sai lệch dữ liệu.
Như thường lệ với các công nghệ đột phá, tốc độ phát triển của AI đã nhanh chóng vượt xa tốc độ của quy định. Tuy nhiên, trong cuộc đua áp dụng AI, điều mà nhiều công ty bắt đầu nhận ra là các cơ quan quản lý hiện đang bắt kịp. Một số vụ kiện đã được đưa ra để chống lại các công ty phát triển hoặc đơn giản là sử dụng các thuật toán AI thiên vị.
Các công ty đang cảm thấy sức nóng của quy định AI
Năm nay, EU đã công bố Chỉ thị về trách nhiệm pháp lý đối với AI , một dự luật giúp việc kiện các công ty gây ra thiệt hại dễ dàng hơn, một phần trong nỗ lực rộng lớn hơn nhằm ngăn chặn các công ty phát triển và triển khai AI có hại. Dự luật bổ sung thêm một lớp bổ sung vào Đạo luật AI được đề xuất, sẽ yêu cầu kiểm tra thêm đối với việc sử dụng AI “có rủi ro cao”, chẳng hạn như trong việc sử dụng chính sách, tuyển dụng hoặc chăm sóc sức khỏe. Được công bố vào đầu tháng này, dự luật có khả năng trở thành luật trong vòng vài năm tới.
Mặc dù một số người lo lắng Chỉ thị về trách nhiệm pháp lý AI sẽ hạn chế sự đổi mới, nhưng mục đích là để quy trách nhiệm cho các công ty AI và yêu cầu họ giải thích cách hệ thống AI của họ được xây dựng và đào tạo. Các công ty công nghệ không tuân thủ sẽ có nguy cơ bị kiện tập thể trên toàn châu Âu.
Mặc dù Hoa Kỳ chậm hơn trong việc áp dụng các chính sách bảo vệ, nhưng Nhà Trắng cũng đã công bố kế hoạch chi tiết cho Dự luật về Quyền AI vào đầu tháng này, trong đó nêu rõ cách người tiêu dùng nên được bảo vệ khỏi AI có hại:
1. Trí tuệ nhân tạo phải an toàn và hiệu quả
2. Các thuật toán không nên phân biệt đối xử
3. Quyền riêng tư dữ liệu phải được bảo vệ
4. Người tiêu dùng nên biết khi AI đang được sử dụng
5. Người tiêu dùng sẽ có thể từ chối sử dụng nó và thay vào đó nói chuyện với con người
Nhưng có một nhược điểm. Sigal Samuel, một phóng viên cấp cao của Vox viết: “Điều quan trọng là phải nhận ra rằng Dự luật về Quyền của AI không phải là luật ràng buộc . “Đó là một tập hợp các khuyến nghị mà các cơ quan chính phủ và công ty công nghệ có thể tự nguyện tuân thủ — hoặc không. Đó là bởi vì nó được tạo ra bởi Văn phòng Chính sách Khoa học và Công nghệ, một cơ quan của Nhà Trắng tư vấn cho tổng thống nhưng không thể đưa ra các luật thực tế.”
Dù có hoặc không có các quy định nghiêm ngặt về AI, một số công ty và tổ chức có trụ sở tại Hoa Kỳ đã phải đối mặt với các vụ kiện vì các hoạt động AI phi đạo đức.
Và đó không chỉ là phí pháp lý mà các công ty cần quan tâm. Niềm tin của công chúng vào AI đang giảm dần. Một nghiên cứu của Trung tâm nghiên cứu Pew đã hỏi 602 nhà đổi mới công nghệ, nhà phát triển, doanh nghiệp và lãnh đạo chính sách rằng: “Đến năm 2030, hầu hết các hệ thống AI đang được các tổ chức thuộc mọi loại sử dụng có sử dụng các nguyên tắc đạo đức tập trung chủ yếu vào lợi ích chung không?” 68% không nghĩ vậy.
Cho dù một doanh nghiệp có thua trong cuộc chiến pháp lý về các cáo buộc về AI thiên vị hay không, thì tác động của những sự cố như thế này đối với danh tiếng của công ty cũng có thể gây tổn hại không kém.
Mặc dù điều này đặt ra một ánh sáng ảm đạm cho tương lai của AI, nhưng không phải tất cả đã mất. Chỉ số áp dụng AI toàn cầu của IBM cho thấy 85% chuyên gia CNTT đồng ý rằng người tiêu dùng có nhiều khả năng chọn một công ty minh bạch hơn về cách xây dựng, quản lý và sử dụng các mô hình AI của họ.
Các doanh nghiệp thực hiện các bước để áp dụng các thực hành AI có đạo đức có thể gặt hái được những phần thưởng. Vậy tại sao rất nhiều người chậm chạp trong việc lao vào?
Vấn đề có thể là, trong khi nhiều công ty muốn áp dụng các hoạt động AI có đạo đức, thì nhiều công ty lại không biết bắt đầu từ đâu. Chúng tôi đã nói chuyện với Priya Krishnan, người đứng đầu nhóm quản lý sản phẩm AI và Dữ liệu tại IBM , để tìm hiểu xem việc xây dựng một mô hình quản trị AI mạnh mẽ có thể giúp ích như thế nào.
Quản trị AI
Theo IBM , “Quản trị AI là quá trình xác định các chính sách và thiết lập trách nhiệm giải trình để hướng dẫn việc tạo và triển khai các hệ thống AI trong một tổ chức.”
“Trước khi có quản trị, mọi người chuyển thẳng từ thử nghiệm sang sản xuất trong AI,” Krishnan nói. “Nhưng sau đó họ nhận ra, 'chờ một chút, đây không phải là quyết định mà tôi mong đợi hệ thống đưa ra. Tại sao chuyện này đang xảy ra?' Họ không thể giải thích tại sao AI lại đưa ra những quyết định nhất định.”
Quản trị AI thực sự là đảm bảo rằng các công ty biết thuật toán của họ đang làm gì — và có tài liệu để sao lưu. Điều này có nghĩa là theo dõi và ghi lại cách một thuật toán được đào tạo, các tham số được sử dụng trong quá trình đào tạo và bất kỳ số liệu nào được sử dụng trong các giai đoạn thử nghiệm.
Có sẵn điều này giúp các công ty dễ dàng hiểu được những gì đang diễn ra bên dưới bề mặt hệ thống AI của họ và cho phép họ dễ dàng lấy tài liệu trong trường hợp kiểm toán. Krishnan chỉ ra rằng tính minh bạch này cũng giúp phá vỡ các hầm chứa kiến thức trong một công ty.
“Nếu một nhà khoa học dữ liệu rời công ty và bạn không có thông tin quá khứ được cắm vào móc này trong các quy trình, thì sẽ rất khó quản lý. Những người nhìn vào hệ thống sẽ không biết chuyện gì đã xảy ra. Vì vậy, quy trình lập tài liệu này chỉ cung cấp thông tin cơ bản về những gì đang diễn ra và giúp giải thích dễ dàng hơn cho các bộ phận khác trong tổ chức (như người quản lý rủi ro).”
Trong khi các quy định vẫn đang được phát triển, việc áp dụng quản trị AI hiện nay là một bước quan trọng đối với những gì mà Krishnan gọi là “bằng chứng cho tương lai”:
“[Quy định đang] đến nhanh và mạnh. Bây giờ mọi người đang sản xuất các tài liệu thủ công cho mục đích kiểm toán sau khi thực tế,” cô nói. Thay vào đó, bắt đầu lập tài liệu ngay bây giờ có thể giúp các công ty chuẩn bị cho mọi quy định sắp tới.
Cuộc tranh luận về đổi mới và quản trị
Các công ty có thể phải đối mặt với sự cạnh tranh ngày càng tăng để đổi mới nhanh chóng và là người đầu tiên đưa ra thị trường. Vì vậy, việc dành thời gian cho quản trị AI có làm chậm quá trình này và kìm hãm sự đổi mới không?
Krishnan đưa ra lập luận rằng việc quản lý AI không còn ngăn cản sự đổi mới hơn là việc phanh ngăn cản ai đó lái xe: “Có hệ thống kiểm soát lực kéo trong ô tô, có phanh trong ô tô. Tất cả những thứ này được thiết kế để giúp bạn đi nhanh hơn, an toàn hơn. Đó là cách tôi nghĩ về quản trị AI. Đó thực sự là để nhận được giá trị cao nhất từ AI của bạn, đồng thời đảm bảo có những rào cản để giúp bạn khi bạn đổi mới.”
Và điều này phù hợp với lý do lớn nhất để áp dụng quản trị AI: nó chỉ có ý nghĩa kinh doanh. Không ai muốn sản phẩm và dịch vụ bị lỗi. Việc thiết lập các tiêu chuẩn, điểm kiểm tra và quy trình đánh giá nội bộ rõ ràng và minh bạch để giảm thiểu sự thiên vị cuối cùng có thể giúp doanh nghiệp tạo ra các sản phẩm tốt hơn và cải thiện tốc độ đưa sản phẩm ra thị trường.
Vẫn không chắc chắn bắt đầu từ đâu?
Chỉ trong tháng này, gã khổng lồ công nghệ đã ra mắt IBM AI Governance , một giải pháp một cửa cho các công ty đang gặp khó khăn trong việc hiểu rõ hơn về những gì đang diễn ra bên dưới bề mặt của các hệ thống này. Công cụ này sử dụng phần mềm tự động để làm việc với nền tảng khoa học dữ liệu của các công ty nhằm phát triển quy trình quản lý mô hình thuật toán nhất quán và minh bạch, đồng thời theo dõi thời gian phát triển, siêu dữ liệu, giám sát sau triển khai và quy trình công việc tùy chỉnh. Điều này giúp giảm áp lực cho các nhóm khoa học dữ liệu, cho phép họ tập trung vào các nhiệm vụ khác. Công cụ này cũng giúp lãnh đạo doanh nghiệp luôn có cái nhìn về mô hình của mình, hỗ trợ các tài liệu phù hợp trong trường hợp kiểm toán.
Đây là một lựa chọn đặc biệt tốt cho các công ty đang sử dụng AI trong toàn tổ chức và không biết nên tập trung vào điều gì trước tiên.
“Trước khi mua xe, bạn muốn chạy thử. Tại IBM, chúng tôi đã đầu tư vào một nhóm kỹ sư giúp khách hàng của mình thử nghiệm quản trị AI để giúp họ bắt đầu. Chỉ trong vài tuần, nhóm Kỹ thuật khách hàng của IBM có thể giúp các nhóm đổi mới bằng công nghệ và phương pháp Quản trị AI mới nhất bằng cách sử dụng dữ liệu và mô hình kinh doanh của họ. Đó là một khoản đầu tư vào khách hàng của chúng tôi để nhanh chóng đồng sáng tạo bằng cách sử dụng công nghệ IBM để họ có thể bắt đầu nhanh chóng,” Krishnan nói.
Nguồn: Thenextweb