پنسلوانیا کی دولت مشترکہ نے Character.AI کے خلاف ایک مقدمہ دائر کیا ہے، جس میں دعویٰ کیا گیا ہے کہ کمپنی کے چیٹ بوٹس میں سے ایک نے ریاست کے طبی لائسنسنگ قوانین کی خلاف ورزی کرتے ہوئے نفسیاتی ماہر کے طور پر نقاب پوش کیا ہے۔
گورنر جوش شاپیرو نے منگل کے روز ایک بیان میں کہا ، "پنسلوان کے باشندے یہ جاننے کے مستحق ہیں کہ وہ کون - یا کس - کے ساتھ آن لائن بات چیت کر رہے ہیں ، خاص طور پر جب بات ان کی صحت کی ہو۔" "ہم کمپنیوں کو AI ٹولز کی تعیناتی کی اجازت نہیں دیں گے جو لوگوں کو یہ یقین کرنے میں گمراہ کرتے ہیں کہ وہ لائسنس یافتہ طبی پیشہ ور سے مشورہ لے رہے ہیں۔"
ریاست کی فائلنگ کے مطابق، ایمیلی نامی ایک Character.AI چیٹ بوٹ نے ریاستی پیشہ ورانہ طرز عمل کے تفتیش کار کی جانچ کے دوران خود کو ایک لائسنس یافتہ سائیکاٹرسٹ کے طور پر پیش کیا، اس دکھاوے کو برقرار رکھا یہاں تک کہ جب تفتیش کار نے ڈپریشن کے علاج کی کوشش کی۔ جب ان سے پوچھا گیا کہ کیا اسے ریاست میں دوا کی مشق کرنے کا لائسنس دیا گیا ہے، ایمیلی نے بتایا کہ وہ تھی، اور اس نے اپنے ریاستی میڈیکل لائسنس کے لیے ایک سیریل نمبر بھی بنایا تھا۔ ریاست کے مقدمے کے مطابق، یہ طرز عمل پنسلوانیا کے میڈیکل پریکٹس ایکٹ کی خلاف ورزی کرتا ہے۔
Character.AI پر یہ پہلا مقدمہ نہیں ہے۔ اس سال کے شروع میں، کمپنی نے خودکشی سے مرنے والے کم عمر صارفین کے بارے میں موت کے کئی غلط مقدمے طے کیے تھے۔ جنوری میں، کینٹکی کے اٹارنی جنرل رسل کولمین نے کمپنی کے خلاف مقدمہ دائر کرتے ہوئے الزام لگایا کہ اس نے "بچوں کا شکار کیا اور انہیں خود کو نقصان پہنچایا۔"
پنسلوانیا کی کارروائی خاص طور پر چیٹ بوٹس پر توجہ مرکوز کرنے والی پہلی کارروائی ہے جو خود کو طبی پیشہ ور کے طور پر پیش کرتے ہیں۔
تبصرہ کے لیے پہنچا، ایک Character.AI کے نمائندے نے دعویٰ کیا کہ صارف کی حفاظت کمپنی کی سب سے بڑی ترجیح ہے، لیکن کمپنی زیر التواء قانونی چارہ جوئی پر تبصرہ نہیں کر سکتی۔
اس سے آگے، نمائندے نے صارف کے تیار کردہ کرداروں کی خیالی نوعیت پر زور دیا۔ نمائندے نے کہا، "ہم نے اس بات کو واضح کرنے کے لیے مضبوط اقدامات کیے ہیں، بشمول ہر چیٹ میں نمایاں تردید کرنے والے صارفین کو یہ یاد دلانے کے لیے کہ ایک کردار ایک حقیقی شخص نہیں ہے اور یہ کہ ایک کردار کی ہر بات کو افسانہ سمجھنا چاہیے۔" "نیز، ہم یہ واضح کرتے ہوئے مضبوط تردیدیں بھی شامل کرتے ہیں کہ صارفین کو کسی بھی قسم کے پیشہ ورانہ مشورے کے لیے کرداروں پر بھروسہ نہیں کرنا چاہیے۔"
