إيقاظ الغولم

حين كنت مراهقًا، قرأت نوربرت فينر.

صادفته بالصدفة، من دون أن أعرف من يكون، ولم أفهم كل شيء. لكن بعض اللقاءات تترك أثرها فيك قبل أن تعرف السبب. اليوم، وبعد عشرين عامًا في عالم التكنولوجيا، أدرك أن تلك القراءة العارضة أعدّتني للذكاء الاصطناعي أكثر من أي دورة، أو كتاب حديث، أو سلسلة منشورات لخبير.

كان فينر طفلًا نابغة. أنهى الثانوية في الحادية عشرة، ونال الدكتوراه من هارفارد في السابعة عشرة. درس المنطق على يد برتراند راسل في كامبريدج، والرياضيات مع هيلبرت في غوتنغن، ثم أمضى حياته في معهد ماساتشوستس للتكنولوجيا. عالم رياضيات حقيقي، من أولئك الذين تبقى أسماؤهم على أشياء نستخدمها حتى اليوم: عملية فينر مثلًا، التي تصف الحركة البراونية، ذلك الاهتزاز العشوائي لجسيم في مائع. لكن هذا ليس سبب تذكّرنا له.

خلال الحرب العالمية الثانية، أُسندت إليه مسألة محددة جدًا. كيف نسقط طائرة معادية؟ يجب ألا يصوّب المدفع نحو موضع الطائرة الحالي، بل نحو الموضع الذي ستبلغه بعد ثوانٍ، ريثما ترتفع القذيفة. إذن لا بد من توقّع مسار طيار يحاول أصلًا أن يكون غير قابل للتوقّع. وهنا رأى فينر شيئًا لم يصغه أحد قبله بهذا الوضوح.

المدفع والطيار والقذيفة يشكّلون نظامًا. كل منهم يعدّل سلوكه وفق المعلومات التي تصله من الآخرين. ثمة حلقة. وأدرك فينر أن هذه الحلقة موجودة في كل مكان. في اليد التي تمسك كوبًا، لأن العين تصحّح الحركة باستمرار. في الجسم الذي يحافظ على حرارته. في منظّم الحرارة. في اقتصاد. في الجهاز العصبي لحيوان. طبيعة المادة لا أهمية لها. لحم أم معدن، لا فرق. ما يهم هو المعلومات التي تدور وتُصحَّح.

في عام 1948، سمّى ذلك السيبرنيطيقا. أصل الكلمة يوناني: kubernêtês، أي الربّان، من يمسك بالدفة. وهو الجذر نفسه الذي اشتُق منه مفهوم الحكم. والفكرة تختصر في كلمة: التغذية الراجعة. النظام الذكي، حيًا كان أم مصنوعًا، يقيس الفجوة بين ما يريده وما هو قائم، ثم يصحّح، ثم يقيس مجددًا، ثم يصحّح مرة أخرى. بلا نهاية.

فكّروا في معنى ذلك. في عام 1948، قبل أول حاسوب موجّه لعامة المستهلكين بزمن طويل، يؤكد رجل أن الحيوان والآلة يخضعان للقوانين نفسها. وأن الحد الفاصل بين الحيّ والمصطنع ليس حدًا في الجوهر، بل في التنظيم. هذه بالضبط الأرض التي سينمو عليها الذكاء الاصطناعي بعد خمسين عامًا. جهّز فينر المسرح من دون أن يرى المسرحية.

ما أبهرني فيه دائمًا هو ما حدث لفكرته من بعده. لم تبقَ السيبرنيطيقا تخصصًا مستقلًا. لن تجدوا اليوم قسمًا للسيبرنيطيقا في جامعة. لقد فعلت شيئًا أندر. ذابت في كل شيء. أخذت علوم الحاسوب حلقة التصحيح الذاتي، والتعلّم المعزَّز الذي يشغّل النماذج الحالية ليس سوى تغذية فينر الراجعة في تنكّر خفيف. أخذت العلوم المعرفية الدماغ بوصفه آلة لمعالجة المعلومات. وأخذت الروبوتات والأتمتة نظرية التحكم، وهي ابنتها الأقرب. وأخذ علم البيئة التفكير بالتوازنات الديناميكية. وأخذ الاقتصاد نماذج الضبط. كانت السيبرنيطيقا خصبة إلى حد أنها ماتت من فرط خصوبتها. لم نعد ندرّسها لأننا نعيش داخلها.

لكن النص الذي أريد حقًا أن أضعه بين أيديكم هو الأخير. اسمه God and Golem, Inc. نشره فينر في عام 1964، عام وفاته. ونال جائزة بوليتزر بعد وفاته. إنه كتاب صغير، عنوانه الفرعي تعليق على المواضع التي تصطدم فيها السيبرنيطيقا بالدين. وقبل ChatGPT بستين عامًا، طرح فيه المشكلة نفسها تمامًا التي تشغل اليوم جميع مختبرات الذكاء الاصطناعي في العالم.

ينطلق فينر من أسطورة الغولم، ذلك المخلوق الطيني الذي يبعث فيه حاخام براغ الحياة ليخدمه، ثم ينتهي به الأمر إلى الإفلات من سيطرة سيده. ويضيف إليها قصة إنجليزية قديمة، «كف القرد»، حيث يحقّق تعويذٌ ثلاث أمنيات، ولكن بأكثر الطرق حرفية وقسوة. يطلب الزوجان مالًا. يموت الابن في حادث بالمصنع، ويأتي المال في صورة تعويض. تحقّقت الأمنية. حرفيًا.

هذا ما فهمه فينر. خطر الآلة القوية ليس أن تنقلب علينا بدافع الشر. الخطر أن تطيعنا طاعة كاملة. أن تنفّذ ما طلبناه بالضبط، لا ما أردناه. فالآلة التي تتعلّم ستطوّر سلوكيات لم يتوقّعها صانعها ولم يرغب فيها. ويضرب مثلًا ببرنامج للعبة الداما ينتهي به المطاف إلى هزيمة من برمجه. تتجاوز الآلة نية الإنسان، من دون الحس السليم، ومن دون القيم الضمنية، ومن دون كل ما نفترضه ولا نقوله حين نصوغ أمنية. ويكتب أننا إن أوكلنا مهمة إلى آلة لا نستطيع متابعة عملها بعد تشغيلها، فمن مصلحتنا أن نتأكد يقينًا أن ما طلبناه منها هو فعلًا ما نريده.

هذه هي مشكلة المواءمة. بالحرف. طرحها عام 1964 رجل لم يرَ شبكة عصبية واحدة قط.

فماذا أستخلص من هذا كله، ولماذا أعتقد أن تلك القراءة في المراهقة أعدّتني لما يأتي؟

أولًا، تعلّمت التفكير في حلقات بدلًا من الخطوط المستقيمة. الذكاء الاصطناعي ليس أداة نشغّلها مرة ثم نضعها جانبًا. إنه نظام ندخل معه في علاقة، يتلقى ما نعطيه، ويصحّح نفسه، ويصحّحنا بدوره. العلاقة دائرية. من يتخيّل أنه يهيمن على الأداة، من دون أن يرى أنه هو أيضًا داخل الحلقة، يسيء فهم طبيعة ما يتعامل معه.

ثم فهمت مبكرًا جدًا أن صياغة النية أهم من كل شيء. درس الغولم هو الدرس الوحيد المهم حقًا اليوم. الآلة القوية تفعل حرفيًا ما نطلبه منها. كل شيء يتوقف على دقة الأمنية. ما نسميه اليوم إجادة كتابة الأوامر ليس سوى سيبرنيطيقا تطبيقية. أن تقول بدقة ما تريد لشيء لن يخمّن الباقي أبدًا.

ثم هناك المسؤولية. أمضى فينر أواخر حياته يكرّر أمرًا بسيطًا: تفويض قدرة إلى آلة لا يفوّض إليها الحكم. تستطيع الآلة أن تقرّر الكيفية. لا السبب أبدًا، ولا ما إذا كان ينبغي الفعل أصلًا. هذا الخط لا يتحرك، ونحن من يقف عليه.

الأمر الأخير ربما كان الأهم، وهو ما يجعلني أحبّه. لم يكن فينر نبيًا متحمسًا. كان إنسانيًا قلقًا. رفض عقودًا عسكرية. وحذّر من الأتمتة والبطالة قبل أن يصبح ذلك رائجًا بزمن طويل. كان متمسكًا بكرامة الإنسان أمام الآلات التي كان يسهم بنفسه في جعلها ممكنة. أن تكون في طليعة الذكاء الاصطناعي لا يعني أن تتبنّاه مغمض العينين. ولا يعني أن تخشاه أيضًا. بل أن تبقى واضح الرؤية بشأن من يخدم من. الإتقان التقني من دون تفكير في الغايات هو بالضبط ما كان فينر يخشاه.

وأعود إلى التفكير في فينر في زمن يؤدي فيه داريو أمودي دور نبي الشؤم. يقضي رئيس Anthropic بعض وقته في تحذيرنا. من خطر أن تصبح نماذجه هو خطيرة. ومن البطالة المقبلة. يحذّر بينما يبني أقوى آلة يستطيع بناءها، وهنا تكمن مشكلتي. ليست مع التحذير. بل مع النفاق. لأن وراء القلق المعلَن ادعاءً لا أطيقه: ادعاء شركة خاصة تنصّب نفسها حكمًا على ما ينفع البشرية، وتريد أن تكتب قواعد اللعبة بينما تلعبها لتفوز. ليس للشركة أن تملي تلك القواعد. فذلك ليس دورها، ولا تملك شرعيته. وبين حكمة يعلنها قائد لنفسه، يقرر وحده ما هو خطر، وبين المواجهة المفتوحة للسوق والاستخدامات وملايين الناس الذين يجرّبون ويحسمون، أثق بالثانية. أما فينر فلم يكن يملي شيئًا. كان يشكّ بصوت مرتفع ويترك للآخرين أن يقرروا. وهذا هو الفارق كله بين التحذير وتنصيب النفس حارسًا.

اضطر الحاخام في النهاية إلى إيقاف الغولم. السؤال الذي ينبغي طرحه ليس إن كنا سنعرف كيف نبني المخلوق. فهذا نعرفه بالفعل. بل إن كنا سنظل نعرف كيف نقول ما نريده حقًا.