Các hệ thống an toàn tích hợp AI đang tran
g bị phổ biến trên các phương tiện tự hành được cho là kém hiệu quả với người da màu và trẻ em so với người da trắng.
Sự bùng nổ của trí tuệ nhân tạo (AI) mang tới một xu hướng rõ r
àng: Sự thiên vị trong đ
ào tạo các hệ thống máy học dẫn đến h
ành vi phân biệt đối xử trong thế giới thực.
Một nghiên cứu mới đây của nhóm các nh
à khoa học tại Anh v
à Trung Quốc cho thấy, phần mềm phát hiện người đi bộ tran
g bị trên các phương tiện tự h
ành - vốn đang được nhiều nh
à sản xuất ô tô sử dụng, có thể kém hiệu quả hơn khi đối tượng l
à người da m
àu hoặc trẻ em, dẫn đến những người n
ày có thể gặp rủi ro nhiều hơn khi tham gia giao thông.
AI trên xe tự h
ành có xu hướng kém hiệu quả với đối tượng da m
àu v
à trẻ em, có thể dẫn đến những tai nạn nghiêm trọng.
Mặc dù giới tính chỉ có sự khác biệt nhỏ về độ chính xác nhưng các nh
à nghiên cứu nhận thấy hệ thống AI nhận diện kém chính xác hơn trong trường hợp người đi bộ có tone da m
àu tối.
“Các cá nhân thiểu số từn
g bị từ chối cung cấp nhiều dịch vụ quan trọng, giờ đây nhóm n
ày lại phải đối mặt với những rủi ro tai nạn nghiêm trọng”, Jie Zhang, nh
à khoa học máy tính tại King's College London v
à l
à th
ành viên của nhóm nghiên cứu, cho biết.
Cụ thể, báo cáo ghi nhận hệ thống có khả năng phát hiện người lớn cao hơn 19,67% so với trẻ em, v
à thấp hơn 7,52% đối với những người có m
àu da tối hơn.
“Nhìn c
hung, nghiên cứu n
ày l
àm sáng tỏ các vấn đề về tính công bằng m
à hệ thống phát hiện người đi bộ hiện tại phải đối mặt, nhấn mạnh tầm quan trọng của việc giải quyết các th
ành kiến liên quan đến tuổi tác v
à m
àu da”, trích báo cáo của nhóm nghiên cứu. “Những hiểu biết sâu sắc thu được có thể mở đường cho các hệ thống lái xe tự động công bằng v
à không thiên vị hơn trong tương lai”.
Theo th
ành viên của nhóm nghiên cứu, báo cáo của họ không sử dụng chính xác phần mềm m
à các công ty như Tesla c
ài đặt trên xe, do đây l
à bí mật thương mại, thay v
ào đó, nghiên cứu dựa trên các AI nguồn mở tương tự được các doanh nghiệp sử dụng.
“Điều cần thiết l
à các nh
à hoạch định chính sách phải ban h
ành luật v
à quy định để bảo vệ quyền của tất cả các cá nhân v
à giải quyết những mối lo ngại n
ày một cách thích hợp”. Nhóm nghiên cứu kêu gọi các nh
à lập pháp điều chỉnh phần mềm xe tự lái để ngăn chặn sự thiên vị trong hệ thống phát hiện của họ.
(Theo Insider)
Bốn mô h&igr
ave;nh AI h
àng đầu tranh t
ài ‘bịa chuyện’
Nghiên cứu mới nhất cho thấy các mô h&igr
ave;nh AI h
àng đầu của Meta, OpenAI, Cohere v
à Anthropic đều tạo ra thông tin sai lệch.
Xiaomi đưa AI hỗ trợ giọng nói lên thiết bị di động
Xiaomi đang phát triển v
à thử nghiệm mô h&igr
ave;nh trí tuệ nhân tạo nhỏ gọn trên các thiết bị di động trong cuộc đua phát triển cô
;ng nghệ đằng sau những công cụ như ChatGPT.
Đưa AI tạo sinh v
ào ô tô thông minh
AI tạo sinh được đưa v
ào ô tô thông minh bằng cách tích hợp trong hệ thống điều khiển giọng nói v
à sẽ giúp cá nhân hóa trải nghiệm lái xe.
Nguồn bài viết : Thể thao
