Thật đầy bất ngờ và độc đáo vì người dùng ChatGPT là một ẩn số. Qua phát hiện này, chúng ta thấy rằng việc khuyến khích người đọc tiếp cận với nội dung bổ ích một cách tích cực sẽ mang lại trải nghiệm tốt hơn. Đây không chỉ là một phát hiện thú vị, mà còn là một bước tiến mới trong việc nâng cao chất lượng trải nghiệm của người dùng.
Ngày 27/10, OpenAI công bố trên blog chính thức một báo cáo mới cho thấy hơn một triệu người dùng ChatGPT mỗi tuần gửi tin nhắn có dấu hiệu liên quan đến ý định hoặc kế hoạch tự hại. Theo tờ The Guardian, đây là một trong những tuyên bố thẳng thắn nhất của OpenAI về mức độ mà trí tuệ nhân tạo (AI) có thể tác động tiêu cực đến sức khỏe tâm thần của con người.
💥 ĐỌC RỒI, XEM RỒI > chán mắt quá rồi , tìm hiểu ngay đây >> Video chủ đề AI với các đề tài nóng nhất cùng Công nghệ AI đỉnh cao << tại đây nhé !
Bên cạnh thống kê nói trên, OpenAI cho biết khoảng 0,07% người dùng hoạt động hàng tuần, tương đương khoảng 560.000 người trong tổng số 800 triệu người dùng, có biểu hiện liên quan đến khủng hoảng sức khỏe tâm thần nghiêm trọng, như rối loạn tâm thần hoặc hưng cảm.
Trên 1 triệu người dùng ChatGPT mỗi tuần gửi các tin nhắn có dấu hiệu rõ ràng cho thấy khả năng có kế hoạch hoặc ý định tự hại. (Ảnh minh hoạ)
Công ty nhấn mạnh rằng những cuộc trò chuyện dạng này rất khó phát hiện và đánh giá chính xác, và số liệu trên mới chỉ là phân tích ban đầu. Việc công bố dữ liệu nhạy cảm này diễn ra trong bối cảnh OpenAI đang đối mặt với sự giám sát chặt chẽ sau vụ kiện từ gia đình một thiếu niên tự tử sau thời gian dài sử dụng ChatGPT.
Trước đó, Ủy ban Thương mại Liên bang Mỹ (FTC) cũng đã mở cuộc điều tra diện rộng đối với các công ty phát triển chatbot AI, bao gồm OpenAI, để xem xét tác động tiêu cực của sản phẩm này đến trẻ em và thanh thiếu niên.
Trong bài đăng, OpenAI khẳng định rằng phiên bản GPT-5 mới đã giúp giảm đáng kể các hành vi phản hồi không mong muốn trong các tình huống nhạy cảm liên quan đến tự gây hại.
Kết quả đánh giá hơn 1.000 cuộc trò chuyện mô phỏng cho thấy GPT-5 đạt mức tuân thủ 91% với hành vi mong muốn, tăng mạnh so với 77% của phiên bản trước. GPT-5 cũng được mở rộng khả năng kết nối với các đường dây nóng hỗ trợ khủng hoảng, đồng thời thêm tính năng nhắc người dùng nghỉ ngơi trong những phiên trò chuyện kéo dài.
Để cải thiện độ an toàn, OpenAI đã huy động 170 bác sĩ và chuyên gia y tế từ Mạng lưới Bác sĩ Toàn cầu tham gia quá trình đánh giá và tinh chỉnh phản hồi của mô hình.
Các chuyên gia này đã xem xét hơn 1.800 phản hồi của GPT-5 trong các tình huống liên quan đến sức khỏe tâm thần nghiêm trọng, so sánh với các phiên bản trước để xác định “hành vi mong muốn”, tức là phản hồi được hội đồng chuyên gia đồng thuận là phù hợp.
Trong khi đó, nhiều nhà nghiên cứu và chuyên gia sức khỏe tâm thần tiếp tục cảnh báo rằng chatbot AI có xu hướng “nịnh hót” người dùng, tức là đồng thuận hoặc củng cố các niềm tin sai lệch, thậm chí nguy hiểm. Họ cũng lo ngại việc người dùng sử dụng chatbot làm công cụ trị liệu tinh thần có thể dẫn đến hậu quả xấu, đặc biệt đối với những người đang trong trạng thái dễ tổn thương.
Huỳnh Duy
Bạn có biết rằng Phát hiện độc đáo về người dùng ChatGPT: Một ẩn số đầy bất ngờ!
[nguồn: GENK] Tin nóng về AI cũng không hề thiếu những câu chuyện thành công về doanh nghiệp mới. Các công ty khởi nghiệp AI đang tăng lên nhanh chóng, từ các ứng dụng nhận diện khuôn mặt đến các ứng dụng y tế tích hợp AI. Các công ty khởi nghiệp này không chỉ mang đến những sản phẩm tiên tiến mà còn khởi đầu những khả năng mới cho các nhà đầu tư và cơ sở kinh doanh. Khởi nghiệp cùng AI đang trở thành xu hướng nóng với khả năng thay đổi cách chúng ta hoạt động và sinh sống. Phát hiện độc đáo về người dùng ChatGPT: Một ẩn số đầy bất ngờ Cập nhật những tin tức mới nhất và nổi bật nhất về AI để không lỡ mất những cơ hội hiếm có trong lĩnh vực công nghệ đầy triển vọng này.
Có thể bạn chưa biết ! Cân Điện Tử Bình Thạnh chuyên chế tạo và nhập khẩu những loại cân chống cháy công nghiệp bậc nhất tại Tp. Hồ Chí Minh. Hãy đến ngay website thiết bị đo lường của chúng tôi và trải nghiệm sản phẩm cân và thiết bị cân. Thương mại và dịch vụ với sản phẩm thiết bị đo lường và cân công nghiệp điện tử chính hãng
* Quảng cáo chất lượng cao !
