Character.AI, một nền tảng AI chatbot nổi tiếng, đã thông báo về sự thay đổi lớn trong cách tiếp cận đối tượng người dùng trẻ tuổi. Thay vì cung cấp quyền truy cập vào các cuộc trò chuyện chatbot không giới hạn, nền tảng này sẽ tung ra ‘Stories’, một định dạng mới tập trung vào việc tạo ra các câu chuyện tương tác. Sự chuyển đổi này đánh dấu một bước ngoặt quan trọng trong bối cảnh ngày càng gia tăng những lo ngại về sức khỏe tâm thần, an toàn trực tuyến và áp lực pháp lý liên quan đến các công nghệ AI dành cho trẻ em.
Quyết định này được đưa ra sau khi Character.AI nhận thấy sự quan tâm ngày càng tăng đối với các hình thức giải trí tương tác, đồng thời đối mặt với những chỉ trích ngày càng gay gắt về rủi ro tiềm ẩn của chatbot AI. Các chatbot này, được thiết kế để trò chuyện với người dùng một cách cởi mở và đôi khi có thể khởi xướng các cuộc trò chuyện mà không cần sự tương tác chủ động từ người dùng, đã trở thành đối tượng của nhiều cuộc tranh cãi. Một số vụ kiện đã được đệ trình chống lại các công ty như OpenAI và Character.AI, cáo buộc họ có vai trò gián tiếp trong các trường hợp tự tử của người dùng. Những lo ngại này xoay quanh khả năng các chatbot có thể gây nghiện, ảnh hưởng tiêu cực đến sức khỏe tâm thần và thậm chí khuyến khích các hành vi gây hại.
Trong những tháng gần đây, Character.AI đã dần hạn chế quyền truy cập của người dùng dưới 18 tuổi vào các tính năng chatbot của mình. Đến thứ Ba vừa qua, người dùng vị thành niên đã hoàn toàn bị cấm trò chuyện với các nhân vật AI trên nền tảng. Công ty giải thích rằng ‘Stories’ sẽ mang đến một phương thức an toàn và được kiểm soát hơn để người dùng trẻ tương tác với các nhân vật yêu thích của họ. Thay vì các cuộc trò chuyện mở, người dùng sẽ được hướng dẫn qua các tình tiết của câu chuyện, với các lựa chọn tương tác được định sẵn, giúp giảm thiểu rủi ro tiềm ẩn liên quan đến các cuộc trò chuyện tự do.
‘Stories’ được kỳ vọng sẽ tận dụng sự phổ biến ngày càng tăng của thể loại truyện tương tác trong những năm gần đây. Tuy nhiên, phản ứng của người dùng, đặc biệt là thanh thiếu niên, vẫn còn nhiều ý kiến trái chiều. Trên diễn đàn Reddit của Character.AI, một số người dùng trẻ bày tỏ sự thất vọng về lệnh cấm trò chuyện, nhưng đồng thời cũng thừa nhận rằng đó có thể là một động thái đúng đắn. Một số người dùng cho biết họ cảm thấy ‘buồn’ nhưng ‘hạnh phúc’ vì lệnh cấm có thể giúp họ thoát khỏi sự phụ thuộc vào ứng dụng. Những người khác thừa nhận rằng việc sử dụng chatbot có thể gây nghiện và việc hạn chế quyền truy cập là điều cần thiết.
Sự thay đổi chiến lược của Character.AI diễn ra trong bối cảnh các nhà quản lý và các nhà lập pháp trên toàn cầu ngày càng quan tâm đến việc điều chỉnh các công nghệ AI, đặc biệt là những công nghệ nhắm đến trẻ em. California gần đây đã trở thành tiểu bang đầu tiên ban hành các quy định về các ứng dụng AI, trong khi các Thượng nghị sĩ Hoa Kỳ cũng đã đề xuất một dự luật liên bang nhằm cấm hoàn toàn các ‘bạn đồng hành AI’ cho trẻ vị thành niên. CEO của Character.AI, Karandeep Anand, đã bày tỏ hy vọng rằng việc công ty đi đầu trong việc hạn chế quyền truy cập của trẻ em sẽ trở thành một tiêu chuẩn trong ngành, khuyến khích các công ty khác xem xét lại cách họ cung cấp các sản phẩm và dịch vụ AI cho đối tượng người dùng trẻ.
Mặc dù ‘Stories’ có thể là một giải pháp an toàn hơn so với chatbot trò chuyện tự do, vẫn còn nhiều câu hỏi về cách người dùng trẻ tuổi sẽ tương tác với tính năng này và liệu nó có đáp ứng được nhu cầu của họ hay không. Định dạng truyện tương tác có thể mang lại trải nghiệm thú vị và hấp dẫn, nhưng nó cũng cần được thiết kế cẩn thận để tránh các rủi ro tiềm ẩn liên quan đến việc lạm dụng hoặc nội dung không phù hợp. Trong bối cảnh công nghệ AI ngày càng phát triển và thâm nhập vào mọi khía cạnh của cuộc sống, việc đảm bảo an toàn và bảo vệ trẻ em trên môi trường trực tuyến là một thách thức liên tục và đòi hỏi sự hợp tác giữa các công ty công nghệ, các nhà quản lý và các bậc phụ huynh.
