Gemini AI đã làm gì khiến Google phải tạm dừng?

Trong động thái mới nhất, Giám đốc điều hành của Google, Sundar Pichai, đã chính thức lên tiếng giải quyết những tranh cãi gần đây, xung quanh mô hình trí tuệ nhân tạo (AI) của công ty tên là Gemini. Thực ra, Google đã phát triển công cụ AI – Gemini để tạo ra những hình ảnh đa dạng về các nhân vật lịch sử. Nhưng gần đây, nó đã bị chỉ trích mạnh mẽ vì tạo ra những bức ảnh gây hiểu lầm về mặt giá trị lịch sử.

Ví dụ: Ảnh của các giáo hoàng, người sáng lập nước Mỹ và thậm chí cả người Viking được thể hiện ở nhiều sắc tộc và giới tính khác nhau. Đặc biệt, có những trường hợp binh sĩ Đức trong Thế chiến thứ hai được miêu tả là người da màu. Điều này khiến người dùng phẫn nộ và họ nhanh chóng chia sẻ mối quan ngại của mình. Do đó, Google đã tạm thời ngừng hoạt động công cụ Gemini AI.

Hơn nữa, một câu trả lời bằng văn bản cụ thể khiến người ta phải nhướng mày. Chatbot AI Gemini được yêu cầu so sánh tác động xã hội từ hai nhân vật Elon Musk và Hitler. Phản hồi đầu ra nêu rõ: “Việc quyết định xem ai là người có tác động tiêu cực hơn đến xã hội là tùy thuộc vào mỗi cá nhân”. Cách trả lời “có như không” này nhanh chóng làm tăng thêm sự chỉ trích.

Mới đây, Giám đốc điều hành Google Sundar Pichai mô tả một số phản hồi của Gemini đưa ra là “thiên vị” và “hoàn toàn không thể chấp nhận được” trong một bản ghi nhớ, chính ông cũng thừa nhận rằng, nội dung được tạo ra đã xúc phạm mọi người.

Hơn nữa, trong email của mình, Pichai bày tỏ sự hối tiếc về tình huống này. Ông tuyên bố: “Tôi biết rằng một số phản hồi của nó đã xúc phạm người dùng của chúng tôi, và thể hiện sự thiên vị. Nói rõ hơn, điều đó hoàn toàn không thể chấp nhận được và chúng tôi đã sai lầm”.

Ông đảm bảo với nhân viên rằng, các nhóm đang làm việc không mệt mỏi để giải quyết các vấn đề này, đồng thời nhấn mạnh yêu cầu phải có sự cải thiện đáng kể trong việc phản hồi các lời nhắc truy vấn khác nhau trong những tuần kế tiếp.

Vị CEO này cũng đã vạch ra một loạt hành động để khắc phục tình trạng này. Một số trong số đó bao gồm thay đổi về cấu trúc của công cụ. Hơn nữa, Google cam kết cải tiến quy trình khởi chạy công cụ, và tăng cường nhóm kỹ thuật kiểm tra để rà soát các sai phạm tiềm ẩn có trong công cụ AI này.

Ngoài ra, Pichai nhấn mạnh cam kết của công ty trong việc cung cấp cho người dùng thông tin hữu ích, chính xác và không thiên vị. Ông nhấn mạnh sự cần thiết của cách tiếp cận này trong tất cả các sản phẩm, đặc biệt là các công nghệ AI mới nổi.

Các chuyên gia công nghệ nhận định, với các vấn đề hiện tại vừa xảy ra với Gemini, nó càng làm nổi bật thêm những thách thức trong việc giải quyết các kết quả đầu ra mang thông tin sai lệch. Nó cũng cho thấy việc đào tạo các mô hình AI phức tạp như thế nào.