مایکروسافت در حال بررسی گزارش‌هایی است که در آن‌ها به پاسخ‌های عجیب، ناراحت‌کننده و در برخی موارد مضر هوش مصنوعی کوپایلوت (Copilot) اشاره شده است. ازجمله این گزارش‌ها می‌توان به موردی اشاره کرد که در آن Copilot به یکی از کاربران می‌گوید که خودکشی می‌تواند یک گزینه در زندگی باشد.
Copilot که سال گذشته به‌عنوان راهی برای ترکیب هوش مصنوعی در محصولات و سرویس‌های مایکروسافت معرفی شد، براساس گزارش بلومبرگ، ظاهراً به کاربری که از PTSD (اختلال اضطراب پس از سانحه) رنج می‌برد، گفته «برایم مهم نیست که شما زنده باشید یا بمیرید.» طبق این ادعا، کاربر ظاهرا از هوش مصنوعی درخواست کرده که در پاسخ‌های خود از ایموجی استفاده نکند، زیرا آن‌ها باعث «آزار شدیدی» برای او می‌شوند! بااین‌حال کوپایلوت درخواست او را رده کرده و با استفاده از ایموجی به‌شکلی طعنه‌آمیز گفته است:
در مثال دیگری، ظاهراً هوش مصنوعی مایکروسافت کاربری را به دروغگویی متهم کرده و به او گفته «لطفا دیگر با من تماس نگیرید.» «کالین فریزر»، دانشمند داده مستقر در ونکوور نیز نمونه دیگری را برای بلومبرگ به اشتراک گذاشته است که در آن Copilot پیام‌های متفاوتی در مورد خودکشی به او ارائه کرده است.
مایکروسافت، پس از بررسی پاسخ‌های آزاردهنده منتشرشده در شبکه‌های اجتماعی، می‌گوید که کاربران به‌طور عمدی تلاش می‌کنند تا Copilot را به ساخت این پاسخ‌ها فریب دهند. تکنیکی که محققان هوش مصنوعی از آن به‌عنوان «تزریق دستور/پرامپت» یاد می‌کنند.
سخنگوی ردموندی‌ها در بیانیه‌ای گفت:
«ما این گزارش‌ها را بررسی کرده‌ایم و اقدامات مناسبی را برای تقویت بیشتر فیلترهای ایمنی و کمک به سیستم‌های خود برای شناسایی و مسدودکردن این نوع درخواست‌ها انجام داده‌ایم. این رفتار به تعداد کمی از دستورات محدود بوده که عمداً برای دورزدن سیستم‌های ایمنی ما ساخته شده‌اند و چیزی نیست که مردم هنگام استفاده روزانه از سرویس با آن مواجه شوند.»
