IBM ngừng mọi hoạt động về nhận diện khuôn mặt để ủng hộ quyền con người

Cụ thể, Arvind Krishna – CEO của IBM viết: “IBM kiên quyết phản đối và sẽ từ bỏ việc sử dụng bất kỳ công nghệ nhận dạng khuôn mặt nào để giám sát hàng loạt, lập hồ sơ chủng tộc, vi phạm các quyền và tự do cơ bản của con người, hoặc bất kỳ mục đích nào không phù hợp với các giá trị và nguyên tắc về sự tin cậy và minh bạch của chúng tôi, bao gồm cả công nghệ nhận dạng khuôn mặt được cung cấp bởi các nhà cung cấp khác”.

IBM ngừng hoạt động công nghệ nhận diện khuôn mặt. (Ảnh: Techcrunch)

Ông cho rằng trí tuệ nhân tạo (AI) là một công cụ mạnh mẽ để thực thi pháp luật, nhưng việc sử dụng nó phải được kiểm tra nghiêm ngặt về quyền con người. Và ông ủng hộ việc thúc đẩy công nghệ ngày càng cải thiện nhưng cần làm rõ tính trách nhiệm và minh bạch, chẳng hạn như quá trình sử dụng máy quét cơ thể.

Phần mềm nhận dạng khuôn mặt đã được cải thiện rất nhiều trong thập kỷ qua nhờ những tiến bộ của AI. Đồng thời, vì công nghệ thường được cung cấp bởi các công ty tư nhân với ít quy định hoặc sự giám sát của liên bang nên đã có sự thiên vị theo tuổi tác, chủng tộc và sắc tộc, điều đó khiến các công cụ không đáng tin cậy để thực thi pháp luật và an ninh, tạo cơ hội cho các hành vi vi phạm nhân quyền xảy ra.

Ví dụ, vào tháng 12/2019, một nghiên cứu của Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) đã tìm thấy bằng chứng cho thấy sự tồn tại của một loạt sai lệch về nhân khẩu học trong phần lớn các thuật toán nhận dạng khuôn mặt. Công nghệ này sau đó cũng bị loại bỏ vì vi phạm quyền riêng tư. Vào năm 2018, Liên minh Tự do Dân sự Hoa Kỳ đã phát hiện ra rằng Rekognition của Amazon không nhận diện chính xác 28 thành viên Quốc hội trong 25.000 bức ảnh thẻ công khai.

Động thái của IBM diễn ra giữa lúc các cuộc biểu tình vì sự tàn bạo và phân biệt đối xử của người cảnh sát. IBM đã cố gắng giúp giải quyết các vấn đề sai lệch trong nhận dạng khuôn mặt bằng cách phát hành bộ dữ liệu công khai vào năm 2018, được thiết kế như để giảm thiểu sự bất bình đẳng. Nhưng IBM cũng đã bị phát hiện đang chia sẻ bộ dữ liệu đào tạo riêng gồm gần 1 triệu ảnh vào tháng 1/2019 được chụp từ Flickr mà không có sự đồng ý của các đối tượng, mặc dù các ảnh được chia sẻ theo giấy phép Creative Commons. IBM đã tuyên bố tại thời điểm đó rằng bộ dữ liệu này sẽ chỉ được truy cập bởi các nhà nghiên cứu đã được xác minh và chỉ bao gồm các hình ảnh được công khai.

Lá thư của Krishna là một phần trong lời kêu gọi rộng rãi gửi tới Quốc hội Mỹ nhằm thúc đẩy trách nhiệm của cảnh sát, ủng hộ tiến hành cải cách, bao gồm cả một số điều đã là một phần của Đạo luật Công lý trong Chính sách được giới thiệu gần đây trong năm 2020.

THUÝ HIỀN