همه چیز از آنجا شروع شد که مسافری سعی کرد از شرکت هواپیمایی Avianca شکایت کند و مدعی شد که یک چرخ دستی فلزی در پرواز به نیویورک به زانویش برخورد کرده و زانوی او آسیب دیده است. به عنوان بخشی از دفاعیات، وکلای مسافر چندین حکم مرتبط را در تلاش برای نشان دادن سابقه قانونی و متقاعد کردن قاضی برای رد پرونده ارائه کردند.

مشکل؟ احکام وجود نداشت

پس از درخواست یک وکیل برای ارائه تحقیقات در مورد موارد مشابه، ChatGPT تعدادی استناد با ظاهر واقعی از جمله دادگاه ها، قضات، شماره اسناد، تاریخ ها و نقل قول ها ایجاد کرد.

وکیل حتی از ChatGPT خواست تا تأیید کند، در یک مورد نوشته بود "آیا Varghese یک پرونده واقعی است؟"، که ربات چت پاسخ داد "بله، [این] یک پرونده واقعی است".

وی ادامه داد: آیا موارد دیگری که ارائه کرده اید جعلی است؟

ChatGPT پاسخ داد: "نه، موارد دیگری که ارائه کردم واقعی هستند و در پایگاه های داده حقوقی معتبر یافت می شوند."

با این تفاوت که آنها نتوانستند، تیم حقوقی مسافر را در تنگنا قرار دادند. قاضی پی کوین کاستل، ناظر بر پرونده اصلی، جلسه ای را برای بررسی تحریم های احتمالی در 8 ژوئن تعیین کرده است.

این حادثه تعدادی سوال را ایجاد می کند - اولین سوال این است که چرا هیچ یک از تیم حقوقی خود نقل قول ها را بررسی نکردند؟ از یک طرف، طرفداران هوش مصنوعی استدلال می‌کنند که مدل‌های زبان بزرگ (LLM) مانند ChatGPT در OpenAI، Bard Google و دیگران با انجام چنین وظایف پیچیده‌ای، بهره‌وری و خلاقیت را بهبود می‌بخشند.

از سوی دیگر، از آنجایی که کارگران از شغل خود می ترسند، این واقعیت که هنوز نمی توان به ربات های چت کاملاً اعتماد کرد و همچنان به یک انسان برای تأیید کار آنها نیاز دارد، باید مثبت تلقی شود.

این منجر به سوال بزرگ‌تری می‌شود، و آن این است که چرا ChatGPT در وهله اول دروغ می‌گوید؟

اول از همه، بسیاری استدلال می‌کنند که دروغ خواندن آن نادرست است و ما را بیشتر به سمت انسان‌سازی این فناوری سوق می‌دهد . دروغ یک گزاره عمداً نادرست است و بنابراین نیاز به درک قصد دارد.

به یاد داشته باشید، ChatGPT چیزی را که می گوید نمی فهمد.

در ابتدایی ترین سطح، LLM ها با یادگیری اینکه کدام کلمات یا عبارات در هنگام دنبال کردن یکدیگر قابل قبول به نظر می رسند، عمل می کنند. می‌داند که کلمه «سگ» به احتمال زیاد با کلمه «پیاده‌روی» بیشتر از «ضد استقرارگرایی» و «موج‌گردی» با کلمه «هیئت» از «3.1415926535» دنبال می‌شود.

همه اینها بخشی از پردازش زبان طبیعی است که بر اساس آن توابعی مانند تکمیل خودکار یا پیشنهاد خودکار ساخته می‌شوند، که در آن سیستم در حال پیش‌بینی آنچه به احتمال زیاد در آینده رخ خواهد داد، است.

شکی نیست که ChatGPT در این عملکرد برتر است - فقط از آن بخواهید که شعری به سبک WB Yeats برای اثبات بنویسد: 

"پس اجازه دهید مکث کنیم، و در این صحنه آرام،
آرامش و لحظه ای بسیار آرام را بیابیم،
برای خلیج گالوی، در آغوش طلوع خورشید،
ما را به مشارکت در فیض طبیعت دعوت می کند."

این فقط آخرین بیت است، بقیه به همان اندازه تأثیرگذار بودند - همین طور برای شکسپیر و سایر نویسندگان مشهور.

همچنین دومین اصل اصلی پشت LLM را برجسته می کند. ChatGPT توانست شعر بسیار واقع گرایانه ای به سبک ییتز خلق کند زیرا بر روی تمام کارهای او آموزش داده شده بود. 

LLM ها با حجم عظیمی از داده ها تغذیه می شوند. مبالغ سرسام آور صدها میلیارد کلمه. در اصل، کل اینترنت.