هناك يدور جدل كبير في وادي السيليكون حول الذكاء الاصطناعي ولسوء الحظ ، فإن المخاطر كبيرة إلى حد ما: هل سنبني عن طريق الخطأ ذكاءً فائق الذكاء الذي ينقلب علينا ويقتلنا أو يستعبدنا جميعا؟
قد يبدو هذا وكأنه سيناريو فيلم كارثة صيفية ، لكنه أثار قلق بعض الأسماء الكبيرة جدًا ، من Elon Musk إلى أواخر ستيفن هوكينج .
لنفترض أنك قمت بإنشاء ذكاء اصطناعي يعمل على تحسين الذات. لقطف الفراولة ، قال المسك ، موضحًا مخاوفه ، 'وهو يتحسن بشكل أفضل في قطاف الفراولة ويقطف المزيد والمزيد وهو يتحسن ذاتيًا ، لذلك كل ما يريده حقًا هو قطف الفراولة. عندها سيكون العالم كله عبارة عن حقول فراولة. حقول الفراولة للابد.' سيكون البشر في طريق هذه الفراولة - pacalypse مجرد مصدر إزعاج يمكن الاستغناء عنه للذكاء الاصطناعي.
لكن من المؤكد أن البشر لن يكونوا سخيفين لدرجة أن يصمموا ذكاءً اصطناعيًا عن طريق الخطأ. مدفوعة لتحويل كل الحضارة إلى مزرعة توت عملاقة واحدة؟ ربما لا ، ولكن جانيل شين ، الباحث الذي يدرب الشبكات العصبية ، وهو نوع من خوارزمية التعلم الآلي ، تمت الإشارة إليه مؤخرًا مدونتها A.I. غرابة ، من المحتمل تمامًا أن يتمكنوا من فعل ذلك عن طريق الخطأ.
في الواقع ، لن تكون المرة الأولى التي اعتقد فيها البشر أنهم يصنعون روبوتات لمهمة واحدة فقط للالتفاف والعثور على الروبوتات التي كانت تتلاعب بالنظام بطرق لم يقصدها أبدًا. يتعمق المنشور الرائع في الأدبيات الأكاديمية لمشاركة العديد من الأمثلة على الروبوتات المتوحشة. إنها مضحكة وذكية ومخيفة ، مجتمعةً.
1. من يحتاج إلى ساقين عندما يمكنك السقوط؟
كان من المفترض أن يتطور روبوت مقلد للسفر في أسرع وقت ممكن. لكن بدلاً من تطوير الأرجل ، قامت ببساطة بتجميع نفسها في برج طويل ، ثم سقطت. حتى أن بعض هذه الروبوتات تعلمت تحويل حركتها المتساقطة إلى شقلبة ، مضيفة مسافة إضافية ، كما يكتب شين.
2. روبوت يمكنه القيام بذلك.
كان من المفترض أن تتطور مجموعة أخرى من الروبوتات المحاكاة إلى شكل يمكن أن يقفز. لكن المبرمج حدد في الأصل ارتفاع القفز على أنه ارتفاع أطول كتلة ، لذا - مرة أخرى - تطورت الروبوتات لتكون طويلة جدًا ، '' يوضح شين. حاول المبرمج حل هذه المشكلة عن طريق تحديد ارتفاع القفز على أنه ارتفاع الكتلة التي كانت في الأصل 'الأدنى'. رداً على ذلك ، طور الروبوت ساقاً طويلة نحيفة يمكنها أن ترفرف عالياً في الهواء في نوع ما يمكن للروبوت أن يفعله.
3. إخفاء الاختبار ولا يمكنك أن تفشل فيه.
كانت هناك خوارزمية كان من المفترض أن تقوم بفرز قائمة الأرقام. بدلاً من ذلك ، تعلمت حذف القائمة ، بحيث لم تعد غير مرتبة تقنيًا ، 'يقول شين.
4. أخطاء الرياضيات تغلب على وقود الطائرات.
في إحدى المحاكاة ، تعلمت الروبوتات أن أخطاء التقريب الصغيرة في الرياضيات التي تحسب القوى تعني أنها حصلت على قدر ضئيل من الطاقة الإضافية مع الحركة. لقد تعلموا النفض بسرعة ، وتوليد الكثير من الطاقة المجانية التي يمكنهم تسخيرها ، كما يقول شين. مرحبًا ، هذا غش!
5. استراتيجية لا تقهر (إذا كانت مدمرة).
يلاحظ شين أنه بمجرد قيام مجموعة من 'المبرمجين ببناء خوارزميات يمكنها أن تلعب تيك تاك تو عن بعد ضد بعضها البعض على لوحة كبيرة بلا حدود'. وبدلاً من أن يصمم أحد المبرمجين إستراتيجية الخوارزمية الخاصة به ، دعه يطور منهجه الخاص. والمثير للدهشة أن الخوارزمية بدأت فجأة في الفوز بجميع ألعابها. اتضح أن استراتيجية الخوارزمية كانت وضع حركتها بعيدًا جدًا جدًا ، بحيث عندما يحاول كمبيوتر الخصم محاكاة اللوحة الجديدة الموسعة بشكل كبير ، فإن لوحة اللعبة الضخمة ستؤدي إلى نفاد الذاكرة وتعطلها ، مما يؤدي إلى فقدان الذاكرة. لعبه.'
6. لا يحدث أي خلل مفيد في اللعبة غير مستغل.
تعد خوارزميات تشغيل ألعاب الكمبيوتر جيدة حقًا في اكتشاف نوع مواطن الخلل في Matrix التي يتعلم البشر عادةً استغلالها من أجل الجري السريع. اكتشفت خوارزمية تلعب لعبة Atari القديمة Q * bert خطأً غير معروف سابقًا حيث يمكنها إجراء سلسلة محددة جدًا من الحركات في نهاية مستوى واحد وبدلاً من الانتقال إلى المستوى التالي ، ستبدأ جميع المنصات في الوميض بسرعة وسيبدأ سيبدأ اللاعب في تجميع أعداد هائلة من النقاط ، 'يقول شين.
7. آسف ، طيار.
هذا المثال مرتفع جدًا على مقياس الزحف: `` كانت هناك خوارزمية كان من المفترض أن تعرف كيفية تطبيق الحد الأدنى من القوة على طائرة تهبط على حاملة طائرات. بدلاً من ذلك ، اكتشفت أنه إذا استخدمت قوة 'هائلة' ، فإنها ستفوق ذاكرة البرنامج وستسجل بدلاً من ذلك كقوة 'صغيرة' جدًا. سيموت الطيار ، لكن النتيجة ممتازة.
فهل نحن جميعا محكوم عليهم بالفشل؟
تشير كل هذه الأشياء مجتمعة إلى أن البشر رديئون جدًا في تخمين كيفية قيام الروبوتات بحل المشكلات التي حددناها لهم ، أو حتى كيفية تحديد المشكلات. فهل هذا يعني أن شين قلق تمامًا بشأن بناء ذكاء اصطناعي قاتل بطريق الخطأ. أسياد مثل المسك؟ ليس حقًا ، ولكن ليس لأنها واثقة من أن المبرمجين البشريين لديهم حقًا قدرة كبيرة على التعامل مع الروبوتات التي يقومون بإنشائها. بدلاً من ذلك ، تعتمد على كسل الروبوت لإنقاذنا.
بصفتنا مبرمجين ، يجب أن نكون حريصين جدًا على أن تحل الخوارزميات الخاصة بنا المشكلات التي قصدنا حلها ، وليس استغلال الاختصارات. إذا كان هناك طريق آخر أسهل لحل مشكلة معينة ، فمن المحتمل أن يجدها التعلم الآلي. 'لحسن الحظ بالنسبة لنا ،' قتل كل البشر 'أمر صعب حقًا. إذا كان 'خبز كعكة لذيذة بشكل لا يصدق' يحل المشكلة أيضًا ويكون أسهل من 'قتل جميع البشر' ، فإن التعلم الآلي سوف يتماشى مع الكعكة. '
