الذكاء الاصطناعي يجيد اللغة. هل يجب أن نثق في ما هو مكتوب؟

يقول ألتمان: “أعتقد أنه يسمح لنا بأن نكون أكثر مراعاة وتركيزًا على قضايا السلامة”. “جزء من استراتيجيتنا هو: التغيير التدريجي في العالم أفضل من التغيير المفاجئ.” هذه التقنيات القوية ، لنبدأ عندما تكون المخاطر منخفضة للغاية.

بينما GPT-3 نفسها تعمل أوبن إيه آي على 285000 نواة لوحدة المعالجة المركزية في مجموعة الحواسيب الفائقة في أيوا ، وتعمل من منطقة سان فرانسيسكو ميشن ، في مصنع للأمتعة تم تجديده. في نوفمبر من العام الماضي ، التقيت بإيليا سوتزكيفر هناك ، في محاولة لاستنباط شرح الشخص العادي لكيفية عمل GPT-3 حقًا.

قال Sutzkever باهتمام: “هذه هي الفكرة الأساسية لـ GPT-3” ، وهو يميل إلى الأمام على كرسيه. لديه طريقة مثيرة للاهتمام للإجابة على الأسئلة: بعض البدايات الخاطئة – “يمكنني أن أقدم لك وصفًا يطابق تقريبًا ما طلبته” – يتم مقاطعتها بفترات توقف تأملية طويلة ، كما لو كان يخطط للإجابة بأكملها مسبقًا.

قال في النهاية: “الفكرة الأساسية لـ GPT-3 هي طريقة لربط مفهوم حدسي للفهم بشيء يمكن قياسه وفهمه ميكانيكيًا ، وهذه هي مهمة التنبؤ بالكلمة التالية في النص. الأشكال الأخرى للذكاء الاصطناعي تحاول ترميز معلومات العالم: استراتيجيات الشطرنج Multi-Masters ، مبادئ علم المناخ. لكن ذكاء GPT-3 ، إذا كان الذكاء هو الكلمة المناسبة له ، يأتي من الأسفل إلى الأعلى: من خلال الإجراء الأساسي لـ التنبؤ بالكلمة التالية. لتدريب GPT-3 ، يتلقى النموذج “إرشادات” – بضع جمل أو فقرات من نص من مقال صحفي ، على سبيل المثال ، أو رواية أو ورقة أكاديمية – ثم يُطلب منك اقتراح قائمة بالكلمات المحتملة التي قد تكمل التسلسل ، متدرجة حسب الاحتمالية. في المراحل الأولى من التدريب ، الكلمات المقترحة هي هراء. الكلمة الأخيرة من الكلمة الأولى. قائمة – تظهر الكلمة المفقودة الصحيحة: “فقرة”. خاطئ. ثم ينتقل إلى الموجه التالي. بمرور الوقت ، مع التكرارات الكافية ، يتعلم البرنامج.

في كانون الثاني (يناير) الماضي ، أضافت OpenAI ميزة تسمح للمستخدمين بإعطاء التعليمات مباشرة إلى GPT-3 كدليل ، بدلاً من مجرد مطالبتهم بالتوسع في عينة مقتطف نصي. على سبيل المثال ، باستخدام وضع “التعليمات” ، أعطيت GPT-3 ذات مرة الموجه: “اكتب مقالًا يناقش دور الخيال الفوقي في عمل إيتالو كالفينو.” في المقابل ، قدم البرنامج خمسة عناصر مبنية بإحكام. – فقرة بالضبط بدأت على هذا النحو:

يعتبر الكاتب الإيطالي إيتالو كالفينو فنانًا مجازيًا ، وهو نوع من الكتابة يكسر فيه المؤلف الجدار الرابع لمناقشة فعل الكتابة نفسه. بالنسبة لكالفينو ، الميتافيزيقيا هي طريقة لاستكشاف طبيعة الواقع والطرق التي يمكن للقصص أن تشكل تصوراتنا عن العالم من خلالها. غالبًا ما تجمع رواياته بين الهياكل المرحة والأبراج المحصنة واللعب بالحدود بين الواقع والخيال. في “إذا مرت ليلة شتوية” ، على سبيل المثال ، تتم مقاطعة القارئ باستمرار من خلال مناقشات على مستوى أدنى حول فعل القراءة وطبيعة القصة. . . .

يمكنك إعطاء GPT-3 نفس التعليمات بالضبط ، مرارًا وتكرارًا ، وفي كل مرة ستخلق استجابة فريدة ، بعضها أكثر إقناعًا من البعض الآخر ولكن جميعها تقريبًا تم التعبير عنها بشكل استثنائي. يمكن أن تأخذ الإرشادات التوجيهية جميع أنواع الأشكال: “أعطني قائمة بجميع المكونات الموجودة في صلصة البولونيز.” في المرات القليلة الأولى التي قمت فيها بتغذية التعليمات من نوع GPT-3 ، شعرت بقشعريرة حقيقية تمر عبر العمود الفقري. يبدو من المستحيل تقريبًا أن تتمكن الآلة من إنشاء مثل هذا النص الواضح والمتجاوب بناءً على التدريب الأساسي للتنبؤ بالكلمة التالية.

لكن للذكاء الاصطناعي تاريخ طويل في خلق وهم الذكاء أو الفهم دون تقديم السلع الفعلية. ب ناقش المقال العديد نُشر العام الماضي ، أستاذ اللغويات في جامعة واشنطن إميلي م. صرح بندر ، وهو باحث سابق في مجال الصور في Google ، ومجموعة من دفاتر الملاحظات الشريكة أن النماذج اللغوية الكبيرة هي مجرد “ببغاوات عشوائية”: أي أن البرنامج يُستخدم بشكل عشوائي فقط لإعادة دمج الجمل التي كتبها البشر. قال لي بيندر مؤخرًا في رسالة بريد إلكتروني: “ما تغير ليس خطوة ما وراء العتبة نحو” الذكاء الاصطناعي “. وبدلاً من ذلك ، قالت ، إن ما تغير هو “الأجهزة والبرمجيات والابتكارات الاقتصادية التي تمكن من تجميع ومعالجة مجموعات كبيرة من البيانات” – فضلاً عن الثقافة التكنولوجية التي “لا يمكن للأشخاص الذين يبنون ويبيعون مثل هذه الأشياء البناء عليها أسس البيانات غير المقدرة “.