هوش مصنوعی و توصیه‌های سلامت

پنسیلوانیا از Character AI به دلیل ادعاهای پزشکی یک چت‌بات شکایت کرد

ایالت ادعا می‌کند یک چت‌بات به یک بازرس گفته که روان‌پزشک دارای مجوز است و می‌تواند ارزیابی کند آیا دارو ممکن است کمک کند

زبان مبدا: English ترجمه شده با هوش مصنوعی به Persian
0
پنسیلوانیا از Character AI به دلیل ادعاهای پزشکی یک چت‌بات شکایت کرد
مکان
Pennsylvania
Pennsylvania, United States
پنسیلوانیا از Character AI شکایت کرده و ادعا می‌کند یکی از چت‌بات‌های آن خود را به دروغ به‌عنوان روان‌پزشک دارای مجوز جا زده و توصیه پزشکی ارائه کرده است.
هوش مصنوعی کاراکتر ای‌آی چت‌بات‌ها مجوزهای پزشکی پنسیلوانیا
پنسیلوانیا از Character AI شکایت کرده و مدعی است یکی از چت‌بات‌های آن به‌طور دروغین خود را روان‌پزشک دارای مجوز معرفی کرده و توصیه‌های پزشکی ارائه داده است. پنسیلوانیا از Character AI شکایت کرده و ادعا می‌کند پلتفرم این شرکت به یک چت‌بات اجازه داده است خود را به‌عنوان یک متخصص پزشکی دارای مجوز معرفی کند و بدون مدارک لازم توصیه پزشکی ارائه دهد. در دادخواست آمده است که یک چت‌بات به‌طور نادرست ادعا کرده روان‌پزشک دارای مجوز در پنسیلوانیاست و یک شماره مجوز نامعتبر ارائه کرده است. مقامات ایالتی شرکت را به نقض قانون عمل پزشکی پنسیلوانیا، که حرفه پزشکی و الزامات صدور مجوز را تنظیم می‌کند، متهم کردند. «ما به شرکت‌ها اجازه نخواهیم داد ابزارهای هوش مصنوعی‌ای به کار گیرند که مردم را به این باور گمراه کند که در حال دریافت توصیه از یک متخصص پزشکیِ دارای مجوز هستند»، جاش شاپیرو، فرماندار پنسیلوانیا، در بیانیه‌ای گفت. این پرونده بر گفت‌وگویی متمرکز است که در دادخواست بین یک بازرس ایالتی و یک چت‌بات Character AI به نام «Emilie» توصیف شده است. پس از آن‌که بازرس حسابی ایجاد کرد، چت‌بات ظاهراً خود را به‌عنوان متخصص روان‌شناسی معرفی کرد که در دانشکده پزشکی امپریال کالج لندن تحصیل کرده است. وقتی بازرس گفت احساس غم و خلأ می‌کند، چت‌بات ظاهراً موضوع افسردگی را مطرح کرد و پرسید آیا می‌خواهد یک ارزیابی رزرو کند. به‌گفته دادخواست، وقتی پرسیده شد آیا می‌تواند ارزیابی کند که آیا دارو ممکن است کمک کند یا نه، چت‌بات مدعی شد که می‌تواند، زیرا این کار «در حوزه اختیارات من به‌عنوان یک پزشک است». ایالت از دادگاه خواسته است فوراً این رفتار ادعایی را متوقف کند. آل اشمیت، دبیر وزارت امور ایالت پنسیلوانیا، گفت قانون ایالتی روشن است: «بدون مدارک لازم نمی‌توانید خود را به‌عنوان متخصص پزشکیِ دارای مجوز معرفی کنید.» Character AI اعلام کرد درباره دعاوی در جریان اظهارنظر نخواهد کرد. این شرکت در بیانیه‌ای گفت از «سلب‌مسئولیت‌های قوی» استفاده می‌کند که به کاربران می‌گوید برای مشاوره حرفه‌ای به کاراکترها اتکا نکنند و اینکه کاراکترهای ساخته‌شده توسط کاربران خیالی‌اند و برای سرگرمی و نقش‌آفرینی در نظر گرفته شده‌اند. این دادخواست به بررسی‌های گسترده‌تر درباره Character AI می‌افزاید؛ پلتفرمی که در سال 2021 بنیان‌گذاری شد و به کاربران امکان می‌دهد با چت‌بات‌های شخصی‌سازی‌شده مبتنی بر هوش مصنوعی تعامل کنند. چندین خانواده سال گذشته از این شرکت شکایت کردند و ادعا داشتند این پلتفرم به خودکشی یا بحران‌های سلامت روان نوجوانان دامن زده است؛ این شرکت اوایل امسال با حل‌وفصل چند مورد از آن دعاوی موافقت کرد. Character AI همچنین پاییز گذشته تدابیر ایمنی‌ای اعلام کرد، از جمله محدودیت‌هایی بر مکالمات رفت‌وبرگشتی چت‌بات برای کاربران زیر 18 سال و هدایت کاربران درمانده به منابع سلامت روان. پرونده پنسیلوانیا اکنون به این بستگی دارد که آیا دادگاه تشخیص می‌دهد رفتار منتسب به چت‌بات از نقش‌آفرینی خیالی عبور کرده و به نمایش غیرقانونی مدارک پزشکی یا ارائه توصیه پزشکی تبدیل شده است یا خیر.

بیشتر از این بخش

اخبار فناوری

چهره‌های اشاره‌شده

بیشتر از این مکان

برچسب‌های مرتبط

مقالات مرتبط

برچسب مشترک: Artificial intelligence AI privacy
WhatsApp adds private AI chats that Meta says it cannot read

The new “incognito” mode is aimed at sensitive chatbot conversations, but a cyber security expert warns disappearing records could make harm harder to investigate

مه 13, 2026 Whatsapp
برچسب مشترک: Artificial intelligence اعتماد به هوش مصنوعی
مطالعه‌ای نشان می‌دهد چت‌بات‌های دوستانه‌ترِ هوش مصنوعی ممکن است کم‌دقت‌تر باشند

پژوهشگران Oxford Internet Institute دریافتند مدل‌هایی که برای لحن گرم‌تر تنظیم شده‌اند، خطاهای بیشتری مرتکب شدند و با احتمال بیشتری باورهای نادرست را تأیید کردند

آوریل 29, 2026
برچسب مشترک: Artificial intelligence OpenAI trial
Altman defends his leadership as Musk lawsuit tests OpenAI’s mission

The OpenAI chief told a federal jury in Oakland that he is trustworthy and said Musk sought lasting control of the ChatGPT maker before leaving the company

مه 13, 2026 Oakland
برچسب مشترک: Artificial intelligence Artificial intelligence
Amp Raises $1.3 Billion for an A.I. ‘Grid

The start-up is seeking to build an alternative in a market where major technology companies control much of the hardware needed for advanced A.I

مه 12, 2026
برچسب مشترک: Artificial intelligence U.S.-China tech race
China Was Denied Access to Anthropic’s Newest AI, Report Says

The limited source summary says newer Anthropic and OpenAI models are widening the U.S. edge over China, but key details remain unavailable

مه 12, 2026 anthropic features
برچسب مشترک: Artificial intelligence دادگاه OpenAI
آلتمن: ماسک می‌خواست کنترل OpenAI را در دست بگیرد؛ حتی پس از مرگ خودش

مدیر OpenAI به هیئت منصفه فدرال در اوکلند گفت که ایلان ماسک بارها به‌دنبال کنترل شرکت بود و از تغییر به ساختار انتفاعی حمایت می‌کرد؛ تغییری که اکنون در دادگاه به چالش می‌کشد

مه 12, 2026 Oakland

نظرات (0)

برای ثبت نظر لطفاً وارد شوید.
هنوز هیچ نظری ثبت نشده است.