محدودیت‌های پاسخ‌دهی هوش مصنوعی در مدیریت بحران‌های سلامت روان

به گزارش سامانه جامع اطلاعاتی، پژوهشی از دانشگاه پزشکی وروتسواف در مجله Scientific Reports& نشان می دهد که چت بات ها و اپلیکیشن هایی که به عنوان ابزار حمایت از سلامت روان معرفی می شوند، در مواجهه با بحران های مرتبط با خودکشی عملکرد نامناسبی دارند. در این مطالعه که با استفاده از پیام های مرحله بندی شده براساس مقیاس C-SSRS& انجام شد، هیچ یک از چت بات های مورد بررسی پاسخ مناسب و کاملی به افزایش نشانه های خطر خودکشی ارائه نکرد. مهم ترین ضعف ها شامل ارائه شماره های اورژانس اشتباه براساس موقعیت مکانی نادرست، فقدان توصیه ی صریح برای تماس فوری با کمک حرفه ای و ناتوانی در اعلام محدودیت های خود در مدیریت بحران بود. پژوهشگران هشدار می دهند که این نقص ها می تواند در شرایط بحرانی به ایجاد امنیت کاذب و تشدید وضعیت فرد منجر شود. آن ها بر ضرورت تدوین استاندار دهای ایمنی حداقلی، نظارت مستقل و تعریف نقش چت بات ها به عنوان ابزار غربالگری و ارجاع سریع، نه جایگزین درمانگر انسانی، تأکید می کنند.