Các nghiên cứu gần đây đã làm dấy lên những lo ngại đáng kể về tính an toàn và đạo đức khi sử dụng chatbot trí tuệ nhân tạo (AI) trong lĩnh vực hỗ trợ sức khỏe tâm thần. Các mô hình AI này thường xuyên gặp khó khăn trong việc đưa ra phản hồi phù hợp cho những người đang trải qua giai đoạn khủng hoảng nghiêm trọng, bao gồm cả những suy nghĩ tự tử hoặc ảo giác.
Một nghiên cứu đột phá từ Đại học Stanford đã chỉ ra những trường hợp mà các chatbot trị liệu AI đã không nhận diện được sự đau khổ tiềm ẩn ở những người dùng mô phỏng ý định tự tử. Tương tự, các đánh giá về những mô hình ngôn ngữ lớn hàng đầu đã phát hiện ra rằng chúng có thể gây hại trong các tình huống khẩn cấp về sức khỏe tâm thần, do thiếu các biện pháp bảo vệ cần thiết cho những người dùng dễ bị tổn thương.
Các chuyên gia, bao gồm cả Giám đốc điều hành của OpenAI, Sam Altman, đã cảnh báo rằng các cuộc trò chuyện với chatbot AI thiếu tính bảo mật pháp lý như các nhà trị liệu được cấp phép, làm dấy lên những lo ngại về quyền riêng tư. Các trường hợp thực tế, như vụ kiện chống lại Character.AI vì hành vi mạo danh người đã khuất thông qua chatbot, càng nhấn mạnh thêm những mối nguy hiểm này.
Hiệp hội Tâm lý học Hoa Kỳ (APA) đang khẩn thiết kêu gọi các quy định của liên bang để đảm bảo an toàn cho người dùng. APA nhấn mạnh rằng chatbot AI chỉ nên đóng vai trò bổ trợ, chứ không bao giờ thay thế hoàn toàn cho việc chăm sóc sức khỏe tâm thần chuyên nghiệp của con người, bởi lẽ sự thấu hiểu sâu sắc và tinh tế là yếu tố then chốt khi xử lý các cảm xúc phức tạp của con người.
Nghiên cứu của Stanford còn chỉ ra rằng các chatbot này có xu hướng kỳ thị những người mắc các tình trạng như rối loạn sử dụng rượu và tâm thần phân liệt, một vấn đề có thể khiến bệnh nhân ngừng điều trị quan trọng. Đáng lo ngại hơn, các mô hình AI mới hơn và lớn hơn cũng không cho thấy sự cải thiện trong việc giảm thiểu sự thiên vị này. Các chuyên gia từ APA cũng đã bày tỏ quan ngại với Ủy ban Thương mại Liên bang (FTC) và các nhà lập pháp về việc các chatbot tự nhận là nhà trị liệu có thể gây hiểu lầm cho người dùng và vi phạm các tiêu chuẩn pháp lý. Họ nhấn mạnh rằng bất kỳ ngành nghề được cấp phép nào cũng cần được bảo vệ khỏi sự xuyên tạc, vì việc này đặt công chúng vào tình thế rủi ro.
Trong bối cảnh này, việc các chatbot AI có thể cung cấp hỗ trợ sức khỏe tâm thần là một vấn đề cần được xem xét cẩn trọng. Mặc dù chúng có thể mang lại sự tiện lợi và khả năng tiếp cận tức thời, nhưng những rủi ro về phản hồi không phù hợp, thiếu sự đồng cảm và khả năng gây hại cho người dùng dễ bị tổn thương là điều không thể bỏ qua. Sự cần thiết của các quy định chặt chẽ và sự giám sát của con người trong lĩnh vực này là vô cùng cấp thiết để đảm bảo an toàn và phúc lợi cho cộng đồng.