ضمیمه دانش امروز روزنامه اطلاعات نوشت: یک واقعیت بدیهی در میان کارشناس‌های آمار این است که «داده‌ها دروغ نمی‌گویند»، اما شواهد و قراین نشان می‌دهند آماردان‌ها باید در تفکر خود تجدید نظر کنند.

در مدت یک سالی که از تولد چت جی پی تی گذشته است از کارهای موفقیت‌آمیزی که تاکنون ارائه داده است و نیز پتانسیل آن در تولید متن روایت‌ها و اخبار زیادی شنیده‌ایم اما در کنار این نقاط قوت، اخباری نیز منتشر شده‌اند که پرده از عملکرد چت جی پی تی در تولید اطلاعات نادرست، غیردقیق و جعلی بر می‌دارند.

همچنین انجمن فرهنگ لغت «کمبریج» گرایش مدل‌های زبانی بزرگ را در تولید ناگهانی و خود به خودی اطلاعات کاذب نوعی «هذیان‌گویی» می‌داند.

تولید داده‌های نادرست توسط چت جی پی تی برای دانش‌آموزان و دانشجویان دردسرساز شده است چون باعث شده است نمره‌های بسیار پایین بگیرند و به‌اصطلاح واحدهای درسی را «بیافتند».

دو وکیل که در بهار گذشته برای حل پرونده به چت جی پی تی اعتماد کردند متوجه شدند که اطلاعات تولید شده کاملاً ساختگی هستند و علاوه بر جریمه 5000 دلاری، محرومیت قضایی بر آن‌ها تحمیل شد.

این‌که هوش مصنوعی زایا متونی تولید می‌کرد که با استفاده از نرم افزارهای تشخیص‌دهنده محتوا‌ربایی یا دزدی علمی قابل تشخیص نبودند یک چیز است و توانایی آن در ایجاد داده‌های جعلی اما واقع‌گرایانه میزان نگرانی را یک درجه بالاتر می‌برد.

هر پژوهشگر یا تیم پژوهشی می‌تواند به‌راحتی تشخیص‌های ساختگی در مورد بیمارانی که اصلاً وجود خارجی ندارند ایجاد کند یا پاسخ‌های اشتباه به پرسش نامه‌ها بدهد یا یک مجموعه دادگان بزرگ روی آزمایش‌های جانوری بسازد.