Phần mềm dò cảm xúc AI được thử nghiệm trên người Uyghurs
- Jane Wakefield
- Phóng viên Công nghệ
Cánh cổng của khu được gọi một cách chính thức là "trung tâm giáo dục kỹ năng nghề" ở Tân Cương
BBC được tin rằng một hệ thống camera sử dụng AI (trí tuệ nhân tạo) và nhận diện khuôn mặt, nhằm phát hiện ra các trạng thái cảm xúc, đã được thử nghiệm trên người Uighurs (Duy Ngô Nhĩ) ở Tân Cương.
Một kỹ sư phần mềm tuyên bố rằng hệ thống như vậy đã được lắp đặt ở các đồn cảnh sát trong tỉnh.
Một nhà vận động nhân quyền được cho xem các bằng chứng mô tả là điều này thực sự gây sốc.
Đại sứ quán Trung Quốc tại London đã không trả lời trực tiếp các lời tuyên bố trên nhưng nói các quyền chính trị và xã hội ở tất cả các nhóm dân tộc được đảm bảo.
Tân Cương là nơi sinh sống của 12 triệu dân tộc thiểu số Uyghurs, đa số theo đạo Hồi.
Công dân trong tỉnh này bị giám sát hàng ngày. Khu vực này cũng là nơi có các "trung tâm cải tạo" gây nhiều tranh cãi, các nhóm nhân quyền gọi đó là trại giam an ninh cao cấp, nơi ước tính đã giam giữ hơn một triệu người.
Bắc Kinh luôn cho rằng việc giám sát cần thiết trong khu vực vì họ nói những kẻ ly khai muốn thiết lập nhà nước riêng, đã sát hại hàng trăm người trong các cuộc khủng bố.
Xinjiang is believed to be one of the most surveilled areas in the world
Kỹ sư phần mềm trên đồng ý nói chuyện với chương trình Panorama của BBC với điều kiện ẩn danh, vì ông lý do an toàn cho bản thân. Công ty mà ông làm việc cũng không được nêu tên.
Nhưng ông cho Panorama xem 5 bức ảnh của những người Uyghur bị giam giữ mà ông cho là đã được đem ra để thử nghiệm hệ thống nhận diện cảm xúc.
Dữ liệu từ hệ thống có nội dung chỉ ra trạng thái tâm trí của một người, với màu đỏ cho thấy trạng thái tâm trí tiêu cực hoặc lo lắng
Ông nói: "Chính phủ Trung Quốc dùng người Uyghurs làm vật thí nghiệm cho nhiều thí nghiệm khác nhau, giống như người ta sử dụng chuột trong phòng thí nghiệm.
Kỹ sư phần mềm này nói vai trò của ông là lắp máy camera tại các đồi công an ở tỉnh này: "Chúng tôi lắp các camera phát hiện cảm xúc cách đối tượng 3 mét. Cái này giống máy phát hiện nói dối nhưng công nghệ cao hơn nhiều."
Ông cho biết cảnh sát dùng "ghế khống chế" vốn được sử dụng rộng rãi tại đồn công an khắp toàn quốc.
"Cổ tay bạn bị khóa chặt bằng cùm sắt, mắt cá cũng vậy."
Ông cung cấp chứng cứ về cách hệ thống AI được luyện để phát hiện và phân tích những thay đổi dù chỉ trong khoảnh khắc trong nét mặt và lỗ chân lông.
Theo tuyên bố của ông, phần mềm tạo ra một biểu đồ hình tròn, với phần màu đỏ thể hiện trạng thái tiêu cực hoặc lo lắng của tâm trí.
Ông cũng xác nhận rằng phần mềm nhằm mục đích "tiền đánh giá mà không có bất kỳ bằng chứng đáng tin cậy nào".
Đại sứ quán Trung Quốc tại London không trả lời câu hỏi về việc sử dụng phần mềm nhận diện cảm xúc ở tỉnh này nhưng nói: "Các quyền chính trị, kinh tế, xã hội và tự do tín ngưỡng ở tất cả các nhóm dân tộc ở Tân Cương được đảm bảo đầy đủ.
"Mọi người sống hòa thuận, không phân biệt sắc tộc và được hưởng cuộc sống ổn định, yên bình, không bị hạn chế quyền tự do cá nhân".
Chứng cứ đã được đưa cho Sophie Richardson, Giám đốc Tổ chức Theo dõi Nhân quyền Trung Quốc.
"Đó là tài liệu sửng sốt. Không chỉ việc người dân bị biến thành những biểu đồ hình tròn, mà còn là việc người dân ở trong các hoàn cảnh bị cưỡng bức kinh khủng, dưới áp lực kinh khủng, phải luôn hoảng loạn và điều đó lại được coi là biểu hiện của phạm tội, tôi nghĩ điều đó cực kỳ có vấn đề."
Hành vi đáng ngờ
Theo Darren Byler, từ Đại học Colorado, theo lệ thường, người Uyghurs phải cung cấp mẫu DNA cho các quan chức địa phương, trải qua quá trình quét kỹ thuật số và hầu hết phải tải một ứng dụng của chính phủ trên điện thoại mà thu thập dữ liệu bao gồm danh bạ và tin nhắn văn bản.
Ông nói: "Cuộc sống của người Uyghur bây giờ là để tạo ra dữ liệu.''
"Mọi người đều biết rằng điện thoại thông minh là thứ bạn phải mang theo bên mình và nếu không mang theo, bạn có thể bị giam giữ, họ biết rằng đang bị theo dõi. Và họ cảm thấy như không có đường thoát thân", ông nói .
Hầu hết dữ liệu được đưa vào một hệ thống máy tính có tên là Nền tảng Hoạt động Chung Tích hợp, mà Tổ chức Theo dõi Nhân quyền tuyên bố sẽ đánh dấu các hành vi được cho là đáng ngờ.
"Hệ thống đang thu thập thông tin về hàng chục loại hành vi toàn toàn hợp pháp khác nhau, bao gồm những thứ như liệu mọi người có đi ra bằng cửa sau thay vì cửa trước hay không, liệu họ có đổ xăng vào một chiếc xe không thuộc quyền sở hữu của mình hay không," bà Richardson nói.
"Các nhà chức trách hiện đặt mã QR bên ngoài cửa nhà của người dân để họ có thể dễ dàng biết ai đáng ra nên và không nên ở đó."
Orwellian - sự độc tài chuyên chế?
Từ lâu đã có cuộc tranh luận về mức độ liên quan mật thiết của các công ty công nghệ Trung Quốc với nhà nước. Nhóm nghiên cứu IPVM có trụ sở tại Hoa Kỳ tuyên bố đã phát hiện ra bằng chứng từ các bằng sáng chế do các công ty này đệ trình, cho thấy các sản phẩm nhận diện khuôn mặt được thiết kế đặc biệt để nhận diện người Uyghur.
Một bằng sáng chế được nộp vào tháng 7 năm 2018 bởi Huawei và Học viện Khoa học Trung Quốc mô tả một sản phẩm nhận diện khuôn mặt mà có khả năng nhận dạng mọi người dựa trên sắc tộc của họ.
Huawei phản bác rằng họ "không dung thứ cho việc sử dụng công nghệ để phân biệt đối xử hoặc áp bức các thành viên của bất kỳ cộng đồng nào" và rằng họ "độc lập với chính phủ" ở bất kỳ nơi nào họ hoạt động.
Nhóm này cũng đã tìm thấy một tài liệu gợi thấy rằng công ty đang phát triển công nghệ cho cái được gọi là hệ thống Một người, Một hồ sơ.
"Cho mỗi người, chính phủ sẽ lưu trữ thông tin cá nhân của họ, các hoạt động chính trị, các mối quan hệ của họ ... bất cứ thứ gì mà có thể cung cấp cho bạn sự hiểu biết sâu sắc về cách người đó sẽ hành xử và loại đe dọa nào mà họ có thể gây ra", Conor Healy của IPVM cho biết.
Hikvision sản xuất một loạt các sản phẩm bao gồm cả camera
"Nó làm cho bất kỳ loại bất đồng chính kiến tiền tàng nào trở thành bất khả thi và tạo ra khả năng dự đoán đúng cho chính phủ về hành vi của công dân mình. Tôi không nghĩ rằng [George] Orwell có thể tưởng tượng rằng một chính phủ có thể có khả năng phân tích kiểu này."
Huawei không giải đáp cụ thể các câu hỏi về việc họ tham gia phát triển công nghệ cho hệ thống Một người, Một hồ sơ nhưng lặp lại rằng họ độc lập với chính phủ ở bất kỳ nơi nào họ hoạt động.
Đại sứ quán Trung Quốc tại London nói "không biết gì" về các chương trình này.
IPVM cũng tuyên bố đã tìm thấy tài liệu tiếp thị từ công ty Trung Quốc Hikvision quảng cáo camera AI phát hiện người Uyghur và bằng sáng chế cho phần mềm được phát triển bởi Dahua, một gã khổng lồ công nghệ khác, cũng có thể nhận diện người Uyghur.
Dahua cho biết bằng sáng chế của họ đề cập đến tất cả 56 dân tộc được công nhận ở Trung Quốc và không cố tình nhắm vào bất kỳ dân tộc nào trong số đó.
Công ty nói thêm rằng nó cung cấp "các sản phẩm và dịch vụ nhằm giúp mọi người an toàn" và tuân thủ "luật và quy định của mọi thị trường" mà nó hoạt động, bao gồm cả Vương quốc Anh.
Hikvision nói các chi tiết trên trang web của họ không chính xác và "được đăng lên trực tuyến mà không có sự xem xét thích hợp", đồng thời nói thêm rằng họ không bán hoặc có "chức năng nhận diện nhóm thiểu số hoặc công nghệ phân tích" trong phạm vi sản phẩm của mình.
Tiến sĩ Lan Xue, Chủ tịch Ủy ban Quốc gia về quản trị AI của Trung Quốc, nói ông không hay biết gì về các bằng sáng chế này.
Ông nói với BBC: "Bên ngoài Trung Quốc có rất nhiều cáo buộc như vậy. Nhiều cáo buộc không chính xác và không đúng sự thật".
"Tôi nghĩ rằng chính quyền địa phương Tân Cương hực sự có trách nhiệm bảo vệ người dân Tân Cương... nếu công nghệ được sử dụng trong ngữ cảnh như vậy, điều đó khá dễ hiểu", ông nói.
Đại sứ quán Trung Quốc của Vương quốc Anh có cách bao biện mạnh mẽ hơn, nói với BBC: "Không có cái gọi là công nghệ nhận diện khuôn mặt có tính năng phân tích Uyghur".
Giám sát hàng ngày
Hu Liu cảm thấy cuộc sống của mình bị giám sát liên tục
Trung Quốc được ước tính là nơi sở hữu một nửa trong số gần 800 triệu camera giám sát trên thế giới.
Nước này cũng có một số lượng lớn các thành phố thông minh, chẳng hạn như Trùng Khánh, nơi AI được xây dựng trên nền tảng của môi trường đô thị.
Nhà báo điều tra Hu Liu ở Trùng Khánh nói với Panorama về trải nghiệm của bản thân ông: "Một khi bạn rời nhà và bước vào thang máy, bạn bị camera ghi hình lại. Camera có ở khắp mọi nơi."
"Khi tôi rời nhà để đi đâu đó, tôi gọi taxi, hãng taxi tải dữ liệu lên cho chính quyền. Sau đó tôi có thể đến quán cà phê để gặp một vài người bạn và chính quyền biết vị trí của tôi thông qua camera trong quán cà phê.''
"Có những đợt tôi gặp một số người bạn và ngay sau đó một người nào đó từ chính phủ liên lạc với tôi. Họ cảnh báo tôi rằng 'Đừng gặp người đó, đừng làm thế này thế kia.'
Ông nói: "Với trí thông minh nhân tạo, chúng ta không có nơi nào để ẩn trốn."
Phần mềm dò cảm xúc AI được thử nghiệm trên người Uyghurs - BBC News Tiếng Việt
Geen opmerkingen:
Een reactie posten