Một chương trình chỉnh sửa ảnh AI đã gây sốc cho một sinh viên MIT Á Châu sau khi biến cô thành người da trắng.

Rona Wang đã thử nghiệm với buồng nhắc (prompt chamber) và trình tạo hình ảnh của AI (image generator), nhưng cô ấy không bao giờ ngờ rằng Playground AI lại biến mình thành một phụ nữ da trắng.

Tuy nhiên, cô ấy phủ nhận lỗi của phần mềm, nói rằng AI vốn dĩ không phân biệt chủng tộc.

ChatGPT và nhiều trí thông minh nhân tạo được cung cấp miễn phí trên toàn thế giới. Do đó, những công cụ này phải phục vụ người dùng đúng cách bằng cách tôn trọng văn hóa và tín ngưỡng của họ. Hiểu được việc trải qua bất thường của Rona Wang với chươngtrình chỉnh sửa ảnh AI sẽ giúp chúng ta thấy công nghệ này có thể tác động đến cuộc sống hàng ngày của chúng ta như thế nào.

Tại sao AI lại mắc lỗi đó?

Rona Wang là một sinh viên người Mỹ gốc Á 24 tuổi tại Học viện Công nghệ Massachusetts. Cô đang hoàn thành chương trình cao học về toán và khoa học máy tính.

Vào ngày 14 tháng 7 năm 2023, cô ấy đã đăng hình ảnh trên X (trước đây là Twitter) với chú thích: “Tôi đang cố gắng lấy ảnh hồ sơ LinkedIn bằng chỉnh sửa AI và đây là những gì nó mang lại cho tôi.” Bức ảnh đầu tiên cho thấy Wang trong chiếc áo len màu đỏ của MIT.

Xem thêm:   Thiết bị cần có cho chuyến săn ảnh

Cô ấy được cho là đã tải bức ảnh đó lên Playground AI với lời nhắc: “Hãy tặng cô gái từ bức ảnh gốc một bức ảnh hồ sơ LinkedIn chuyên nghiệp.” Hình ảnh thứ hai cho thấy chương trình AI đã thay đổi diện mạo của cô ấy để trông giống người da trắng hơn.

Nó mang lại cho cô lúm đồng tiền, đôi mắt xanh, đôi môi mỏng hơn và nước da sáng hơn. “Phản ứng ban đầu của tôi khi nhìn thấy kết quả là thích thú,” Wang nói.

Tuy nhiên, cô ấy bày tỏ sự nhẹ nhõm khi thấy lời chứng thực của mình khơi dậy các cuộc thảo luận về sự thiên vị trong các chương trình máy học.

Wang cho biết: “Tuy nhiên, tôi rất vui khi thấy rằng điều này đã  là một chất xúc tác cho một cuộc trò chuyện lớn hơn về sự thiên vị của AI và những gì được hoặc không được trong làn sóng công nghệ mới này.”

Sinh viên công nghệ tuyên bố, “Thành kiến chủng tộc là một vấn đề lặp đi lặp lại trong các công cụ AI.” Do đó, những lỗi này không khuyến khích cô ấy sử dụng các chương trình AI nhiều hơn nữa.

Wang nói: “Tôi chưa nhận được kết quả đáng kể từ chương trình chỉnh sửa hoặc trình tạo ảnh AI. Bây giờ tôi sẽ không có ảnh hồ sơ LinkedIn mới!”

Tuy nhiên, cô ấy nói với báo chí rằng cô ấy lo lắng về tác động của nó trong những tình huống nghiêm trọng hơn. Ví dụ: điều gì sẽ xảy ra nếu một công ty sử dụng công cụ AI để chọn những “ứng viên chuyên nghiệp” nhất và chọn những người có vẻ ngoài da trắng?

Xem thêm:   Những lựa chọn thay thế nếu muốn tránh Photoshop

“Tôi chắc chắn nghĩ rằng đó là một vấn đề. Tôi hy vọng những người đang làm phần mềm nhận thức được những thành kiến này và suy nghĩ về các cách để giảm thiểu chúng.”

Vấn đề với chương trình chỉnh sửa ảnh AI và các công cụ khác là gì?

Rona Wang đã đúng khi nói rằng các chương trình AI có khuynh hướng phân biệt chủng tộc và các hình thức phân biệt đối xử khác. Tuy nhiên, cô ấy cũng đúng khi không đổ lỗi cho những công cụ này.

Trái ngược với suy nghĩ của nhiều người, các công cụ AI vẫn chưa suy nghĩ giống con người. Chúng không có thái độ cụ thể đối với hoặc chống lại mọi người. Tuy nhiên, chúng hoạt động tùy thuộc vào cách các nhà phát triển của chúng dự định.

Hiểu vấn đề này đòi hỏi kiến thức cơ bản về cách thức hoạt động của AI hiện đại. ChatGPT và các công cụ trí tuệ nhân tạo tổng quát khác dựa trên các mô hình ngôn ngữ lớn.

LLM (large language model-Mô hình ngôn ngữ lớn) chứa hàng tỷ từ, từ các ngôn ngữ khác nhau, được sắp xếp thành biểu đồ ba chiều. Sau đó, nó tuân theo các thuật toán và nhúng để xác định mối quan hệ giữa các từ.

Các thuật toán là các quy tắc mà máy tính tuân theo khi thực hiện các lệnh. Trong khi đó, các phần nhúng đo lường “mức độ liên quan của chuỗi văn bản”, tùy thuộc vào các trường hợp sử dụng:

  • Tìm kiếm: Nhúng (embed) xếp hạng truy vấn theo mức độ liên quan.
  • Phân cụm: Nhúng nhóm các chuỗi văn bản theo mức độ giống nhau.
  • Phân loại: Các nhúng này phân loại các chuỗi văn bản theo nhãn giống nhất của chúng.
  • Khuyến nghị: Họ đề xuất các chuỗi văn bản liên quan.
  • Phát hiện bất thường: Nhúng xác định các từ có mức độ liên quan tối thiểu.
  • Đo lường tính đa dạng: Tính năng nhúng phân tích mức độ tương đồng lan truyền giữa nhiều từ.
Xem thêm:   Những lựa chọn thay thế nếu muốn tránh Photoshop

Vấn đề nằm ở cách các nhà phát triển huấn luyện các mô hình AI của họ. Nếu họ chỉ cung cấp một chương trình chỉnh sửa ảnh AI với các mẫu là người da trắng, thì có nhiều khả năng sẽ hiển thị nhiều kết quả hơn với người da trắng.

Kết luận

Một trình chỉnh sửa ảnh AI đã biến nhầm một sinh viên Á Châu thành một phụ nữ da trắng để khiến cô ấy trông “chuyên nghiệp hơn”. May mắn thay, Rona Wang đã không chống lại chương trình AI.

AN