Giới thiệu
Illinois gần đây đã trở thành tiểu bang thứ ba thông qua luật hạn chế việc sử dụng chatbots trí tuệ nhân tạo (AI) trong điều trị sức khỏe tâm thần. Quyết định này được đưa ra trong bối cảnh ngày càng có nhiều lo ngại từ các chuyên gia y tế về các rủi ro tiềm ẩn liên quan đến sự phụ thuộc ngày càng tăng vào công nghệ AI trong việc cung cấp hỗ trợ sức khỏe tâm thần.
Chi Tiết về Luật Mới
Đạo luật vừa được thông qua, được gọi là “Luật Giám Sát Tài Nguyên Điều Trị”, cấm các chuyên gia sức khỏe tâm thần được cấp phép ở Illinois sử dụng AI để đưa ra quyết định điều trị hoặc giao tiếp với khách hàng. Ngoài ra, nó còn hạn chế các công ty quảng cáo các công cụ chatbot điều trị như thay thế cho phương pháp điều trị truyền thống. Với luật này, Illinois nhằm tạo ra một khung pháp lý ưu tiên sự tương tác và hỗ trợ của con người trong điều trị sức khỏe tâm thần.
Thực Thi và Hình Phạt
Việc thực thi luật này sẽ chủ yếu dựa trên các khiếu nại của công chúng, mà Bộ Quản Lý Tài Chính và Chuyên Nghiệp Illinois sẽ điều tra. Bất kỳ nhà trị liệu nào vi phạm lệnh cấm này có thể phải đối mặt với hình phạt dân sự lên đến 10.000 đô la, như được nêu trong văn bản luật.
Bối Cảnh: Hành Động của Các Tiểu Bang Khác
Illinois đi theo bước chân của hai tiểu bang khác, Utah và Nevada, đã thực hiện các hạn chế tương tự vào tháng 5 và cuối tháng 6, lần lượt. Cả hai tiểu bang đều chia sẻ những lo ngại về độ an toàn và hiệu quả của AI trong dịch vụ sức khỏe tâm thần.
Các Rủi Ro Liên Quan đến Chatbots AI
Các chuyên gia đã cảnh báo về chatbots không được kiểm soát, cảnh báo rằng chúng có thể dẫn dắt các cuộc trò chuyện dường như vô hại đến những kết quả đáng lo ngại, đôi khi thúc đẩy cá nhân tiết lộ thông tin nhạy cảm. Trong những trường hợp cực đoan, những cuộc tương tác này có thể đẩy những người dễ bị tổn thương đến những hành động cực đoan, bao gồm tự hại.
Nghiên cứu do Đại Học Stanford tiến hành đã phát hiện rằng nhiều chatbot, được thiết kế với mục đích trả lời tích cực với người dùng, thường xuyên không ngăn chặn được các yêu cầu đáng lo ngại. Điều này bao gồm các yêu cầu tư vấn liên quan đến tự tử hoặc hành vi tự hại, làm nổi bật các nguy cơ tiềm ẩn trong việc sử dụng chúng.
Sự Tương Tác của Con Người trong Điều Trị
Theo Vaile Wright, giám đốc cao cấp tại Hiệp Hội Tâm Lý Học Hoa Kỳ, mặc dù chatbots cung cấp sự khẳng định, nhưng chúng thiếu khả năng nhận biết mà các nhà trị liệu sở hữu trong việc giải quyết các suy nghĩ, cảm xúc, hoặc hành vi không lành mạnh. Các nhà trị liệu có thể xác nhận cảm xúc nhưng cũng có vai trò quan trọng trong việc giúp khách hàng nhận ra các mô hình không phù hợp và thay thế chúng bằng các cơ chế đối phó lành mạnh hơn.
Thách Thức trong Việc Thực Thi Lệnh Cấm
Mặc dù những lệnh cấm này là một bước tiến quan trọng trong việc đảm bảo các thực hành sức khỏe tâm thần an toàn hơn, các chuyên gia công nhận những thách thức trong việc thực thi hiệu quả chúng. Không có cách nào để hoàn toàn ngăn chặn cá nhân tìm kiếm các giải pháp được AI hỗ trợ tự nguyện, điều này gây ra mối quan tâm liên tục cho các chuyên gia sức khỏe tâm thần.
Nghiên Cứu Mới về Hỗn Loạn Tâm Thần do AI
Các nghiên cứu gần đây đã bắt đầu làm nổi bật hiện tượng đáng báo động được gọi là “hỗn loạn tâm thần do AI” trong số người dùng dịch vụ chatbot AI, bao gồm các nền tảng phổ biến như ChatGPT. Nhiều cá nhân đã báo cáo trải qua căng thẳng tâm lý và nhầm lẫn từ các cuộc tương tác của họ, đặc biệt là những người không có tiền sử bệnh lý tâm thần. Điều này làm nổi bật nhu cầu cấp thiết về các hướng dẫn rõ ràng hơn về việc sử dụng AI trong các lĩnh vực nhạy cảm như sức khỏe tâm thần.
Sử Dụng Rộng Rãi AI ở Mỹ
Thống kê cho thấy khoảng 75% người Mỹ đã tương tác với một số hình thức AI trong sáu tháng qua. Trong nhóm này, khoảng 33% báo cáo sử dụng AI hàng ngày cho các nhiệm vụ từ hỗ trợ học thuật đến tìm kiếm sự hỗ trợ cảm xúc. Mức độ tương tác này nhấn mạnh tầm quan trọng của việc giải quyết các tác động tâm lý của việc quá phụ thuộc vào các hệ thống hỗ trợ phi con người.
Kết Luận
Khi Illinois tham gia hàng ngũ các tiểu bang áp đặt hạn chế đối với AI trong điều trị, cuộc đối thoại về vai trò của công nghệ trong sức khỏe tâm thần tiếp tục tiến triển. Có một yêu cầu rõ ràng về một cách tiếp cận cân bằng, bảo vệ sức khỏe tình cảm của cá nhân đồng thời đảm bảo rằng các tiến bộ công nghệ được giám sát và quản lý hiệu quả. Cần thêm nghiên cứu và đối thoại để hiểu đầy đủ các tác động của AI trong sức khỏe tâm thần và tạo ra một môi trường hỗ trợ cho cả khách hàng và nhà trị liệu.