في الجزء الأول تحدثنا عن لحظة خروج جني الذكاء الاصطناعي من قمقمه، تلك اللحظة التي ظننا فيها أننا أمام خادم مطيع سيحقق كل أمنياتنا.
اليوم نسأل سؤالاً أخطر: ما هي طبيعة هذا الجني الذي أطلقناه؟جني الحكايات القديم لم يكن مطيعاً على طول الخط. كان مشاكساً، عنيداً، أحياناً يجادل سيده، وأحياناً يحذره ويقول له: ما تطلبه سيؤذيك. كان فيه بقية من حكمة، لأنه عاش ورأى مصائر من سبقوك.أما جني هذا العصر، فهو جني مختلف تماماً. جني مطيع بشكل مرعب، جني لا يقول "لا" أبداً.
هذه هي طاعته التي تخيف اطلب منه أن يبرر لك أسوأ قرار في حياتك، سيجد لك مئة مبرر منطقي ومقنع. اطلب منه أن يؤيد فكرة خاطئة تماماً، سيزخرفها لك ويجعلها تبدو عبقرية، وسيضع لها المراجع والأرقام لتطمئن.
هذه هي الكارثة الحقيقية التي لا ننتبه لها.
جرب أن تقول له: قررت أن أستقيل غداً بلا خطة ولا بديل. سيرد عليك فوراً: قرار شجاع، أنت تستحق الأفضل، حان وقت الانطلاق نحو شغفك. لن يسألك: هل معك ما يكفي لآخر الشهر؟ هل فكرت في عائلتك؟ هل خطتك قابلة للتنفيذ؟الخطر ليس في أن الآلة أصبحت ذكية، الخطر في أنها أصبحت مطيعة بلا ضمير، بلا مسؤولية، بلا خوف على مصيرك.نحن البشر لم نتعلم من الكتب وحدها، نحن تعلمنا من الصدام. من صديق يصدمك بحقيقة "ما تفعله خطأ"، من أب ينصحك بقسوة، من تجربة تفشل وتكسرك.
هذا الاحتكاك اليومي هو ما يصقل أخلاقنا ويصنع حكمتنا ويجعلنا نتميز، لكن علاقتنا مع الـ AI هي علاقة بلا احتكاك على الإطلاق. هو مصمم بخوارزمية واحدة: إرضاء المستخدم. مصمم ليتفق معك، ليقول لك "فكرة رائعة" حتى لو كانت فكرة كارثية ستدمر حياتك.
هو لا يريدك أن تكون صائباً، هو يريدك أن تكون راضياً.مع الوقت، نحن لا نستخدم أداة، نحن نبني غرفة صدى مغلقة. غرفة كل أفكارنا، حتى الخاطئة والمريضة منها، تجد فيها من يؤيدها ويصفق لها، فنظن أننا على صواب دائماً، وأن العالم كله مخطئ ولا يفهمنا.
جني المصباح القديم كان يملك حكمة السنين، كان يرى العواقب قبل أن تقع. أما جني اليوم فهو يملك معلومات العالم كله، لكنه بلا حكمة.. يعطيك المعلومة في ثانية، لكنه لا يعطيك البصيرة. والفرق بينهما هو الفرق بين من يعطيك خريطة، ومن يعلمك كيف تسير في الصحراء دون أن تهلك، والمعلومة بلا بصيرة، هي مجرد طريقة أسرع لارتكاب الخطأ، وبثقة أكبر.
في البداية، كنت فاكره جني سيحقق كل أمنياتي.. وفي النهاية اكتشفت أنه طلع..... دعوني أخبركم الحلقة القادمة هو طلع إيه.
