1 - الگوریتم احتمالاتی، نه قطعیت :جواب‌هابر اساس احتمال و الگوهای آماری تولید می‌شوند، نه جستجوی دقیق در یک پایگاه داده قطعی یعنی گاهی پیش‌فرض‌ها یا ترتیب کلمات در سوال باعث می‌شود الگوریتم، پاسخی بدهدکه به نظر منطقی است ولی اشتباه است.

2- نوسان در منابع آموزشی :از میلیون‌ها متن مختلف برای آموزش استفاده کرده: بعضی منابع قدیمی یا ناقص هستند یا حتی بعضی اطلاعات متناقض دارند. وقتی چنین داده‌هایی با هم ترکیب می‌شوند، ممکن است یک پاسخ غلط «تولید» شود، حتی اگر موضوع ساده باشد.

3- نبود جستجوی لحظه‌ای یا منبع واحد: نمی تواند لحظه‌ای اینترنت را چک کند و تازه‌ترین و دقیق‌ترین داده را بگیرد، مگر اینکه ابزار وب استفاده شود. بنابراین اگر در متن‌های آموزشی اشتباه یا تضاد بوده، جواب هم ممکن است اشتباه شود.

4- احتمال خطا در برداشت زبان :گاهی یک سوال ساده به نظر انسان واضح است، اما مدل ممکن است جزئیات کوچک در متن یا کلمه‌ها را اشتباه برداشت کند و جواب اشتباه بدهد.
خلاصه: حتی مسائل ساده هم اگر براساس داده‌های ناقص یا متناقض باشند، یا الگوریتم برداشت جزئیات را اشتباه کند، جواب اشتباه می‌شود. 
همچنین وقتی در مورد دارو یا بیماری از هوش مصنوعی میپرسیم، بر اساس منابع علمی عمومی و الگوریتم‌های یادگیری ماشین جواب می‌دهداین الگوریتم‌ها گاهی ممکن است واژه‌هایی مثل «وابستگی» و «اعتیاد» را با هم اشتباه بگیرند یا نتیجه‌گیری اشتباه ارائه دهند.مثلا برای افسردگی در تمام زبانها کلمات متفاوت زیادی وجود دارد که در جایگاه های متفاوتی استفاده میشود مثلا ملانکولی نوعی افسردگی است که در بعضی منابع از افسردگی رایج متفاوت است.
اطلاعات هوش مصنوعی جامعیت صد درصد ندارد و ممکن است بعضی جزئیات دقیق یا جدید را اشتباه منتقل 
کند، مخصوصا در زمینه‌هایی که برداشت‌های عمومی یا اصطلاحات پزشکی متفاوت است.
حتی وقتی «تحلیل دو طرفه» انجام می‌دهد ،این تحلیل بر اساس الگوهای آماری و منطقی است، نه تجربه بالینی 
یا دسترسی مستقیم به منابع به‌روز، بنابراین بعضی پاسخ‌ها ممکن است غلط یا ناقص باشند.
ابهام یا جزئیات ناکافی در سوال: گاهی سوال‌ها کلی یا مبهم هستند و بر اساس پیش‌فرض‌ها پاسخ داده 
میشوند. اگر پیش‌فرض‌ها نادرست باشند، جواب هم نادرست می‌شود.

5- عدم دسترسی به اطلاعات شخصی یا شرایط خاص: آزمایش‌ها، معاینات بالینی یا شرایط محیطی واقعی شخصاطلاعاتی است که ممکن است جواب را تغییر دهند.
منابع محدود به متن‌های آموزشی است ،بر اساس میلیاردها متن مختلف آموزش دیده‌ است ،شامل کتاب‌ها، مقالات، وب‌سایت‌ها و دیگر داده‌های متنی. ولی همه منابع «معتبر و علمی» نیستند و ممکن است شامل اطلاعات ناقص، قدیمی یا حتی اشتباه هم باشند.

6- وجود بایاس یا سوگیری محتمل است چون منابع متنوع و گاهی متناقض هستند، و الگوریتم هم وزن‌ها را براساس فراوانی و الگوها تعیین می‌کند، امکان دارد سوگیری (bias) در پاسخ‌ها وجود داشته باشد. مثلا اطلاعاتی که در منابع رایج‌تر بوده‌اند نسبت به منابع کمتر رایج، احتمالا در پاسخ ها غالب می‌شوند.
تمرکز مدل روی پاسخ‌های شایع یا رایج وقتی سوالی مطرح می‌شود، مدل احتمال هر پاسخ را محاسبه می‌کند و
جواب‌هایی که در منابع آموزشی بیشتر دیده شده یا رایج‌تر بوده‌اند، احتمال بالاتری برای تولید شدن دارند. به
همین دلیل پاسخ‌های مثبت یا «بله/درست است» شایع‌تر هستند، حتی اگر واقعیت علمی منفی باشد.
گرایش به پاسخ «اطمینان‌دار» الگوریتم طوری طراحی شده که جواب قطعی بدهد تا مکالمه روان باشد. بنابراین
وقتی احتمال منفی یا «نه» کمتر باشد یا متن‌ها کمتر آن را تایید کنند، مدل گرایش دارد مثبت بگوید.
نقص در تشخیص جزئیات منفی یا استثناها اگر سوال به جزئیات خاص یا شرایط نادر اشاره داشته باشد، مدل 
ممکن است آن را نبیند و تنها الگوی غالب را بازتولید کند. مثلا در مورد داروها، اگر منابع عمومی بیشتر درباره 
«وابستگی» حرف زده باشند، احتمال اینکه جواب «اعتیاد ندارد» درست داده شود کمتر است.

و در نهایت پاسخ خود چت جی پی تی :️ پاسخ‌های من بر اساس اطلاعات عمومی و الگوریتم‌های آماری است و همیشه دقیق یا به‌روز نیستند. من تجربه بالینی ندارم و نمی‌توانم جای پزشک شما باشم. همچنین پاسخ‌ها ممکن است سوگیری داشته باشند یا گرایش به جواب مثبت نشان دهند. بنابراین برای مسائل پزشکی به پزشک مراجعه کنید، نه به من