IBM hủy các chương trình nhận diện khuôn mặt để phản đối phân biệt chủng tộc

Công nghệ - Ngày đăng : 14:30, 11/06/2020

IBM vừa mới hủy bỏ các chương trình nhận diện khuôn mặt và kêu gọi một cuộc tranh luận công khai liệu công nghệ này có nên được sử dụng trong việc thực thi pháp luật hay không.

IBM hủy bỏ các chương trình nhận diện khuôn mặt của mình vì lo ngại vấn đề phân biệt chủng tộc

Trong một bức thư gửi đến Quốc hội Mỹ thứ Hai tuần này, CEO của IBM, Arvind Krishna, cho biết rằng công ty muốn hợp tác với các nhà lập pháp để thúc đẩy công lý và công bằng chủng tộc thông qua cải cách cảnh sát, giáo dục và sử dụng công nghệ có trách nhiệm.

"Chúng tôi tin rằng, bây giờ là lúc để bắt đầu một cuộc đối thoại quốc gia về việc liệu các công ty thực thi pháp luật trong nước nên sử dụng công nghệ nhận diện khuôn mặt như thế nào", Arvind Krishna cho hay và lưu ý rằng, công ty không còn cung cấp phần mềm phân tích hoặc nhận diện khuôn mặt.

"IBM kiên quyết phản đối và sẽ không dung túng cho việc sử dụng bất kỳ công nghệ nào, kể cả công nghệ nhận diện khuôn mặt được các nhà sản xuất khác cung cấp, nhằm giám sát hàng loạt, tạo hồ sơ chủng tộc, vi phạm nhân quyền cũng như sự tự do hay bất kỳ mục đích nào không phù hợp với các giá trị của chúng tôi", ông bổ sung thêm. Krishna là người gốc Ấn Độ và là vị CEO da màu đầu tiên của IBM. Người tiền nhiệm của ông, Ginni Rometty, là vị CEO nữ đầu tiên của tập đoàn này.

Một phát ngôn viên của IBM đã xác nhận với CNN Business rằng công ty sẽ giới hạn công nghệ hình ảnh của mình nhằm "phát hiện đối tượng trực quan". Cụ thể, nó có thể giúp quản lý các nhà máy sản xuất hoặc hỗ trợ nông dân chăm sóc cây trồng.

IBM hủy bỏ các chương trình nhận diện khuôn mặt của mình vì lo ngại vấn đề phân biệt chủng tộc

Lá thư này của Krishna được gửi đi sau những cuộc biểu tình chống phân biệt chủng tộc tại Mỹ cũng như trên toàn thế giới nhằm "đáp lại" cái chết của George Floyd – một người đàn ông da đen, không mang theo binh khí, đã bị một cảnh sát chẹt gối đến chết. Một số tập đoàn Mỹ bày tỏ sự ủng hộ của mình với những người biểu tình cũng như phong trào Black Lives Matter. Các công ty này đã hành động hóa sự đáp trả này bằng những bước đi như tuyển dụng và thăng cấp cho nhiều giám đốc điều hành da đen.

Hiện tại, IBM đang là công ty dẫn đầu trong thị trường trí tuyệ nhân tạo. IBM Watson, nền tảng AI của họ dành cho doanh nghiệp, hiện dang được nhiều công ty sử dụng, chẳng hạn như General Motors (GM), KPMG và ESPN Fantasy Football. Bên cạnh đó, cỗ máy nói chuyện siêu nhanh bằng AI của họ, Project Debater, cũng đã xuất hiện trong một sự kiện của Đại học Cambridge hồi năm ngoái với chủ đề sự nguy hiểm của trí tuệ nhân tạo.

Vấn đề thiên vị thuật toán trong khoa học dữ liệu đã trở nên rõ rệt hơn, và có bằng chứng cho thấy, các thuật toán dựa trên AI đều chống đối phụ nữ và người da đen. Trong một nghiên cứu rộng rãi của chính phủ Mỹ hồi năm ngoái, các nhà nghiên cứu liên bang đã tìm thấy nhiều bằng chứng về sự thiên vị chủng tộc trong gần 200 thuật toán nhận dạng khuôn mặt. Điều này có thể dẫn đến việc áp dụng sai công nghệ này.

"Trí tuệ nhân tạo là một công cụ mạnh mẽ, có thể giúp các cơ quan thực thi pháp luật đảm bảo sự an toàn cho công dân. Nhưng những nhà cung cấp cũng như người sử dụng hệ thống AI cần phải chịu trách nhiệm đảm bảo AI đã được thử nghiệm công bằng về thiên vị, đặc biệt là khi sử dụng trong thực thi pháp lập. Và thử nghiệm sự thiên vị đó cần phải được kiểm tra và báo cáo lại", Krishna cho hay.

IBM hủy bỏ các chương trình nhận diện khuôn mặt của mình vì lo ngại vấn đề phân biệt chủng tộc

CEO của IBM, Arvind Krishna

Trước đây, IBM đã cảnh báo sẽ chống lại các lệnh cấm dựa trên công nghệ nhận dạng khuôn mặt này. Thay vào đó, họ sẽ ủng hộ "chính xác những quy định" sử dụng nó nhằm bảo vệ quyền con người.

Krishna cho biết rằng, các chính sách quốc gia nên khuyến khích sử dụng công nghệ nhằm mang lại tính minh bạch cũng như trách nhiệm cao hơn cho việc trị an, chẳng hạn như các camera cơ thể.

Ông hoan nghênh Sự công bằng trong Đạo luật Giữ trật tự – một dự luật được Đảng Dân chủ đưa ra hôm thứ Hai nhằm mục đích trấn áp sự tàn bạo của cảnh sát. Đạo luật này bao gồm việc tạo ra một Cơ quan Quốc gia Ghi lại Hành vi sai trái của Cảnh sát (National Police Misconduct Registry). Krishna ủng hộ biện pháp này và cho biết rằng Quốc Hội nên áp dụng nhiều chính sách khuyến khích hoặc buộc những bang xem xét cũng như cập nhật lại các chính sách sử dụng vũ lực của họ.

Nhằm giải quyết nhu cầu mở rộng cơ hội giáo dục và kinh tế cho cộng đồng người da màu, Krishna kêu gọi Quốc Hội cân nhắc tăng phạm vi của Pell Grants and Pathways in Technology (P-TECH).

Chương trình P-TECH do IBM phát triển năm 2011, cho phép sinh viên lấy được cả bằng tốt nghiệp trung học lẫn bằng liên kết về STEM (Khoa học, Công nghệ, Kỹ thuật và Toán học) mà không phải chịu nợ sinh viên. Chương trình này tập trung chủ yếu vào các sinh viên da màu ở nhiều khu vực của Mỹ có hệ thống giáo dục kém.

Krishna cho hay, các điều kiện để Pell Grants nên được mở rộng, bao gồm cả những người từng bị giam giữ, bên cạnh những chương trình 4 năm truyền thống.

"Pell Grants là một con đường quan trọng cho các sinh viên da màu có thể học đại học. Nhưng không có nguồn quỹ liên bang nào hướng đến các kỹ năng phi đại học hoặc các chương trình chứng nhận việc làm cho công việc New Collar", ông giải thích.

"New Collar" chính là những công việc trong các lĩnh việc như an ninh mạng và điện toán đám mấy. Krishna cho biết, IBM thấy một "nhu cầu cấp bách" cho những kỹ năng này.