جاسم آل سلمان

التفرد تكنولوجي Technological Singularity

التفرد التكنولوجي: هو فرضية ان اختراع أجهزة ذكاء اصطناعي خارقة ستؤدي إلى نمو تكنولوجي سريع، مؤديةً إلى تغيرات غير معقولة في الحضارة البشرية طبقًا لهذه الفرضية، ستدخل أدوات ذكية (مثل جهاز كمبيوتر يعمل على أساس برنامج مبني على فكرة الذكاء الاصطناعي) في تفاعلات سريعة من الدوائر المطورة لأنفسها؛ مع كل جيل أحدث وأذكي يعمل بسرعة أكبر وأكبر، مؤديةً إلى انفجار معرفي وإلى ذكاء صناعي خارق، يتجاوز كل الذكاء البشري.

قد يصل الى تهديد وجود الجنس البشري، ويعود ذلك، حسب مؤيدي هذه النظرية، الى العديد من العوامل التكنولوجية أهمها:

1. إبتكار الآت ذكاء اصطناعي خارقة تتفوق على ذكاء الجنس البشري.

2. قدرة شبكات الحاسوب على محاكاة التفكير و الوعي و الإدراك البشري.

3. التطور الحاصل في ميدان العلوم البيولوجية وما سيتيحه من قدرة على تصميم الذكاء البشري.

4. تقنية التعزيز البشري وما تتيحه من توسيع لحدود القدرات البشرية جسدياً و إدراكياً.

تقول فكرة غود ان الانفجار المعرفي سيؤدي في النهاية إلى تفرد. وقال أستاذ الفلسفة في علوم الكمبيوتر بجامعة سان دييغو وكاتب الخيال العلمي فيرنور فينج في مقالته عام 1993 التفرغ التكنولوجي القادم أن هذا من شأنه أن يشير إلى نهاية حقبة الإنسان، حيث سيستمر الذكاء الفائق الجديد في الارتقاء بنفسه والتقدم تكنولوجيًا بمعدل غامض.

في عام 2012 و2013 تمت أربعة إستطلاعات للرأي، مبينةً ان نسبة تطوير ذكاء اصطناعي عام هي 50 بالمئة بحلول 2040 إلى.2050

في السنوات السابقة، أعربت شخصيات عامة مثل ستيفن هوكينج وايلون مسك عن قلقه بان الذكاء الاصطناعي العام من الممكن ان يؤدي إلى انقراض الانسان. إن عواقب التفرد ومصلحته أو ضرره للجنس البشري قد نوقشت بشدة.

على الرغم من ان التقدم التكنولوجي يتسارع، الا انه كان مقيدًا بالذكاء الاساسي للدماغ البشري، والذي، طبقًا لبول ر. ايرليك، لم يتغير كثيرًا على مر آلاف السنين. غير ان ازدياد قوة أجهزة الكمبيوتر والتكنولوجيا الاخرى من الممكن ان يؤدي إلى بناء آلات أكثر ذكاءًا من البشر. إذا ما تمكنا من اختراع ذكاء خارق - اما من خلال إسهاب الذكاء البشري أو من خلال الذكاء الاصطناعي - سنتمكن من الحصول على مهارات اختراعية وقدرات على حل مشاكل أعظم من هذه التي يمتلكها البشر الآن. يسمى هذا النوع من الذكاء الاصطناعي باسم (ذرية الذكاء الاصطناعيSeed AI) لانه إذا تم تصنيع آله ذكاء اصطناعي باستخدام قدرات هندسية تتطابق مع أو تتجاوز قدرات صانعيها البشريون، فستكون لها القدرة على تحسين برامجها وعدتها بصورة مستقلة أو حتى تصميم آلة لها إمكانيات أكبر. هذه الآلة ذو الامكانيات الأكبر من الممكن ان تقوم بتصميم آلة ذات قدرة أكبر بكثير. من الممكن ان تتسارع هذه التكرارات للتحسين الذاتي المتكرر، مما يسمح بتغيير نوعي كبير قبل أي حدود عليا تفرضها قوانين الفيزياء أو الحسابات النظرية الموضوعة فيها. ويُعتَقَد بأنه على مدى العديد من التكرارات، سيتجاوز هذا الذكاء القدرات البشرية المعرفية.

يقول عالم الكومبيوتر فيرنور فينج في مقالة عنوانها «التفرد التكنولوجي القادم» ان هذا سينبئ بنهاية الحقبة البشرية، حيث ان الذكاء الاصطناعي الخارق سيستمر في تطوير نفسه بمعدل غامض.

حيث بدأ المصطلح المستقبلي "التفرد التكنولوجي" يدخل بشكل متزايد حياتنا. وفقا للتوقعات الأكثر تشاؤما للعلماء وخبراء مختلفين، في موعد لا يتجاوز عام 2030 سوف يصبح هذا المفهوم جزءا من واقعنا. إذن ماذا تعني هذه العبارة الغامضة؟ مع العديد من الموسوعات الحديثة، يتم التعامل مع التفرد التكنولوجي كخطة افتراضية عندما التقدم التكنولوجي سوف تكتسب مثل هذه السرعة والتعقيد التي سوف تكون غير قابلة للوصول إلى فهم الإنسان.

ببساطة، والذكاء الاصطناعي يصل إلى مستوى من التنمية التي شخص يمكن أن تكون زائدة عن الحاجة، وحتى منافس خطير للالإبداعات الإلكترونية "الذكية". لأكثر من عقد من الزمن المستقبليون والكتاب الخيال العلمي قد خائفة لنا مع "ثورة السيارات" ممكن. ولكن في الآونة الأخيرة نسبيا هذه المشكلة الافتراضية بدأت تناقش بجدية في الأوساط العلمية.

ولأول مرة، تم التعبير عن مصطلح "التفرد التكنولوجي" في مقال عالم الرياضيات والكاتب فيرنون فيني، الذي قدم في عام 1993 في ندوة عقدتها ناسا بالتعاون مع معهد أوهايو للفضاء . سرعان ما كانت الأحداث التي توقعها العلماء وقابلة للمقارنة، في رأيه، مع ظهور الرجل على هذا الكوكب، بدأت تتحقق.

أول مظهر من مظاهر مثل هذا الحدث الرئيسي وصنع عهدا جديدا باعتباره التفرد التكنولوجي لم تستغرق وقتا طويلا. وكان عام 1997 نقطة تحول في التنمية البشرية ووعي الناس. في مايو من ذلك العام، صمم من قبل خبراء، واحد ونصف الإلكترون "الوحش" الأزرق العميق، ومجهزة 250 المعالجات، في مباراة الشطرنج العنيد ومتوترة، هزم بطل العالم الذي هزم حتى الآن غاري كاسباروف. في تلك اللحظة، أصبح من الواضح أن العالم لن يكون على حاله أبدا ...

إن مسار هذه المبارزة، وربما المواجهة الأكثر أهمية في تاريخ الحضارة الإنسانية، تستحق اهتماما خاصا. فاز غراند ماستر أول مباراة دون أي مشاكل. في بداية كاسباروف الثاني، في محاولة لجذب خصمه الإلكتروني في فخ ذكي، ضحى اثنين من البيادق. الأزرق العميق هذه المرة تأمل (إذا كان يمكن أن يسمى ذلك) طويلة بشكل غير عادي - ما يقرب من ربع ساعة. على الرغم من أنه قبل ذلك لم يستغرق أكثر من ثلاث دقائق لاتخاذ القرارات. وفقط عندما كان هناك تهديد حقيقي من كونها في الوقت المناسب المتاعب، أدلى الجهاز خطوة انتقامية. وتبين أن النتيجة قاتمة للعقل البشري. الجهاز لم يقبل الضحية، وقالت انها فازت اللعبة ...

وانتهت الثلاثة التالية بالتعادل. ولكن الدفعة الأخيرة من الكمبيوتر فاز بطريقة رائعة، وترك أي رجل أدنى فرصة. في ذلك، ديب الأزرق هزم ببساطة غراند ماستر الكبير. لذلك، لقد علمت البشرية عن الجيل الجديد من الآلات الإلكترونية، والفكر الذي يفوق الإنسان. والتي لديها ببساطة قدرة التعلم مذهلة. وقد ذهبت الآلات الحديثة أبعد من ذلك. يقول علماء الأعصاب أن قوة الحوسبة في الدماغ البشري هي حوالي مائة تريليون عملية في الثانية الواحدة. حجم الذاكرة واعية للشخص العادي هو فقط اثنين ونصف غيغابايت. وسرعة العمل من الحواسيب الفائقة اليوم هي سرعة 115 تريليون دولار. حول سعة التخزين، لا يمكن أن تنتشر. وفي الوقت نفسه، أنهم لا يعرفون التعب، وسوء الحالة الصحية، والشك، والتردد، ونقاط الضعف البشرية الأخرى. لذلك، يعتقد المستقبليون أن التفرد التكنولوجي أمر لا مفر منه. وبطبيعة الحال، فإن التكنولوجيات الحيوية الحديثة قادرة تماما على تزويد البشرية بوسائل لتحسين القدرات الفكرية الطبيعية. ما سيؤدي إلى ظهور مثل هذه الظاهرة مثل التفرد من الوعي. وفي هذه الحالة، قد يتعرض الشخص لخطر أن يصبح جزءا من واجهة الجهاز البشرية. ومن ثم سيكون من المستحيل التنبؤ بزيادة تطوير حضارتنا، استنادا إلى مبادئ علم الاجتماع والمعايير السلوكية المعتادة. إن الوضع سيخرج ببساطة من السيطرة البشرية بالمعنى التقليدي لها.

ماذا يعني مصطلح التفرد التكنولوجي:

تتشابه أفلام الخيال العلمي في طرحها لفكرةٍ أساسيةٍ، تتبلّور حول مستقبل الجنس البشري الذي يكافح من أجل البقاء على قيد الحياة، حين يكتشف العلماء أن آلاتهم أصبحت قويةً جدًّا وخارجةً عن السيطرة، لتجبر البشر على العبودية والخضوع، وبالرغم من الشرخ الكبير بين مضمون هذه الأفلام والواقع الحالي، إلا إن بعض العلماء والفلاسفة يعتقدون بأن هذا النوع من الأفكار يكتسب المزيد من المصداقية في كلّ عامٍ مع التطوّر السريع للتكنولوجيا والعلوم. هل من الممكن أن تحلّ الآلات بديلًا عن البشر كقوةٍ مهيمنةٍ على هذا الكوكب؟! قد يجادل البعض بأننا وصلنا فعلًا إلى هذه النقطة، فها نحن نسمح لأجهزة الحاسوب بالتواصل مع بعضها البعض للتحكم بنظم المعلومات المعقدة والمهمة كالأسواق التجارية والبنوك، وحتى بالسيطرة على الأسلحة الأكثر خطورةً في العالم، ويمكن القول إن الروبوتات سيطرت على جزءٍ كبيرٍ من وظائف الإنسان، حيث أصبح بمقدورها القيام بأعمالٍ عديدةٍ، تتراوح من صناعة السيارات إلى صناعة رقاقات الحاسوب. ورغم ذلك، فإنّ هذه الآلات تفتقر إلى القدرة على اتخاذ قراراتٍ خارج مسارات برامجها وخارج الصلاحيات المحدّدة لها، بسبب عدم التمتّع بالحدس والوعي الذاتي أو حتى القدرة على الاستقراء تبعًا للمعلومات المتاحة، فهي لا تزال أدوات لها وظائف محددةٌ فقط، لكن هل ستبقى الأمور كما هي عليه؟ وإلى متى؟ وهل ستمتلك تلك الآلات في المستقبل شكلًا من أشكال الوعي؟ وفي حال حدث ذلك فما هو مصير الجنس البشري؟ هل سندخل في عصرٍ جديدٍ تقوم فيه الروبوتات بجميع الأعمال لنتمتع نحن البشر بثمار تلك الأعمال؟ أم سنتحوّل إلى مخلوقاتٍ لا نفع لها كما هو الحال في فيلم ماتريكس (Matrix)؟ أم أنّ هذه الآلات ستمحو الجنس البشري عن وجه المعمورة؟ بالنسبة للأشخاص العاديين، قد تبدو هذه الأسئلة غريبةً بعض الشيء أو حتى غير مستساغة الطعم، ولكن يعتقد البعض أننا بحاجةٍ لطرح مثل هذه الأسئلة، وأحد هؤلاء الأشخاص هو فيرنر فينجVernor Vinge ، أستاذٌ سابقٌ في الرياضيات في جامعة سان دييغو الأمريكية San Diego State University، حيث يعتقد فينج بأن البشرية تتجه نحو مصيرٍ لا رجعة فيه، ستخرج فيه التكنولوجيا عن السيطرة، وهو ما يسميه بالتفرّد أو الاستقلالية Singularity فما هو التفرّد التكنولوجي؟ وكيف يمكن حدوثه؟ في مقالته (التفرّد التكنولوجي القادم، وكيفية البقاء على قيد الحياة في عصر ما بعد البشرية)، يقترح فينج تنبؤاً مثيرًا للاهتمام ومخيفًا في نفس الوقت، حيث يعتقد أن البشرية ستصل إلى مستوىً عالٍ جدًّا من التكنولوجيا قبل عام 2030 فيحدد المقال أربعة احتمالاتٍ لكيفية حصول التفرّد التكنولوجي:

1. اصطناع العلماء لروبوتاتٍ تتفوق على الجنس البشري باستخدام الذكاء الصناعي.

2. إمكانية أن تصبح شبكات الحاسوب قادرة على التفكير والوعي والإدراك بطريقةٍ أو بأخرى.

3. الدمج بين الإنسان والآلات عالية التقنية بحيث يتطور الإنسان بحدّ ذاته إلى نوعٍ جديد.

4. يتيح التقدم في العلوم البيولوجية للإنسان القدرة على تصميم الذكاء البشري فعليًا.

تبدي أول ثلاثة احتمالاتٍ إمكانية تمرّد الآلات واستيلائها على الإنسان، وبالرغم من تناول فينج هذه الاحتمالات جميعها في مقالته، إلا أنه يقضي وقته في دراسة الاحتمال الأول، لذلك دعونا نلقي نظرةً على نظريته. تتقدم تكنولوجيا الحواسيب بمعدلٍ أسرع بكثيرٍ من أيّ علومٍ وتكنولوجيا أخرى، حيث تزداد قوةً بمقدار الضعف كل سنتين تقريبًا، ويرتبط ذلك بقانون مور Moore's Low، الذي ينص على أن عدد الترانزستورات على شريحة المعالج يتضاعف تقريبًا كل 18 شهرًا، وبالمقابل تلعب التجهيزات والعتاد الصلب دورًا لا يقل أهميةً عن الدور الذي سيلعبه الذكاء الصناعي، وبناءً على ذلك، يعتقد فينج بأنها مسألة وقتٍ قبل بناء البشر لآلةٍ قادرةٍ على التفكير بوعيٍ مثل الإنسان. العتاد المادي هو فقط جزءٌ من المعادلة، فقبل ابتكار العتاد على شخصٍ ما ابتكار برمجية تسمح بتحليل البيانات واتخاذ القرارات والتصرف بشكلٍ مستقلٍ، وفي حال حدوث ذلك فإننا نتوقع أن نرى آلاتٍ تقوم بتصميم آلاتٍ جديدةٍ وتعمل على تطويرها، لتصبح البشرية من المخلوقات التي عفا عليها الزمن، وما يثير الرعب هو إن هذا التقدم سيصل دون أيّ سابق إنذارٍ بحيث لا يمكن تجنبه. وفي وقتٍ قصيرٍ، سنصل لمرحلة الاستقلال أو التفرّد التكنولوجيّ، حيث لا مكان للإنسان. ماذا سيحدث بعد ذلك؟ يقول فينج ربما سيأخذ الكون منحىً مختلفًا تمامًا في عملية تطوره، لكن بالمقابل لا بدّ من النظر بتفاؤلٍ إلى هذا الجانب، فربما سنعيش عهدًا يستمتع فيه الإنسان، فيندمج الوعي البشري مع شبكات الحاسب، أو من الممكن أن تنجز الآلات مهامنا فتسنح لنا الفرصة بالعيش في رغدٍ ورفاهيةٍ، قبل أن تبدأ مرحلة استنساخ نفسها، وتصبح قادرةً على إصلاح نفسها، وهكذا يصبح الإنسان ليس فقط بلا فائدةٍ ولكن أيضًا غير مرغوبٍ به، ربما يكون ما ذُكِر عبارةً عن سيناريو مخيفٍ، إلا إنه يبقى تخمينًا مع وجود احتمالاتٍ لتحققه أو عدم تحققه، لكن هل توجد طريقةٌ لتجنب ذلك قبل فوات الأوان!؟؟ يعتقد الكثير أن هذا الأمر مبالغٌ فيه، ولا يمكن أن نصل إلى التفرّد والاستقلالية التي تكلّم عنها فينج، ولفهم هذه النظرية فإننا نحتاج للعودة إلى قانون مور الذي ذُكر سابقًا، ففي عام 1965 اقترح مهندس الترانزستورات غوردن مور Gordon E. Moore ما نسميه اليوم بقانون مور، حيث لاحظ تضاعف أعداد الترانزستورات مع مرور الزمن مقابل انخفاض سعرها وتكاليف تصنيعها، أي أصبح بالإمكان إنتاج داراتٍ متكاملةٍ بقدرة عملٍ أقوى وبنصف التكلفة، ومع التقدم التكنولوجي العالي أصبح سعر الترانزستور ذي المقياس النانوي قريبًا من الصفر في المعالجات المستخدمة في الوقت الحالي، مثل معالجات شركات Intel وشركة AMD ، والتي تحوي على ترانزستورات بقياس 45 نانو متر. لكن بالمقابل، لا يعلم العلماء إلى أيّ حدٍّ يمكننا تقليص أحجام الترانزستورات أكثر، فحتى لو تمكنّا من صناعة ترانزستورٍ قياسه عدّة نانومتراتٍ، فليس بالضرورة أن يعمل. وذلك لأنه عند المقاييس دون الذرية تختلف القوانين، فعلينا التعامل مع الفيزياء الكمّية عندها، ومثالًا على ذلك، وجد الباحثون أن الإلكترونات تخترق المادة الرقيقة من أحد الجوانب إلى الجانب الآخر، كما لو إن هذه المادة غير موجودةٍ، وتُدعى هذه الظاهرة بالنفق الكموميّ، لتخالف بذلك قاعدة انتقال الشحنات عبر سطوح المواد، أي ستُفقَد القدرة على التحكّم بتدفق الإلكترونات المارّة وهنا تكمن إحدى المشاكل. لذلك يجب الحذر عند التعامل مع المواد ذات المقياس النانوي، وخاصةً عند إنشاء آلاتٍ معقدةٍ خوفًا من أن تصبح هذه الآلة جامحةً وقادرةً على التفكير الذاتي نتيجة ظواهر ليست بالحسبان، ويمكن أيضًا حصول التفرّد التكنولوجي من خلال بناء الرقاقات النانوية الضوئية بشكلٍ عموديٍّ Vertical Optic Nanotechnological chips، حيث تقلّل هذه الطريقة من جموح الإلكترونات، لكن ربما لن تلغي قانون مور بشكلٍ كاملٍ، إلا أنها ستأخذ وقتًا أطول من الزمن الذي تنبأ به فينج، وهناك طريقةٌ أخرى لمنع التفرّد التكنولوجي، تتضمن اتباع قوانين السلامة الثلاثة للروبوتات التي اقترحها العالم إسحاق عظيموفIsaac Asimov ، إلا أن فينج يردّ على ذلك بأنه في حال كانت الروبوتات أذكى من الإنسان، فإنها لن تتوانى عن ابتكار طرقٍ للالتفاف حول هذه القوانين. بالرغم مما سبق كله، فإن فينج لا يسلم بحتمية وصول الإنسان إلى عصر التفرّد التكنولوجي، لكن ربما يجب أن نفكّر مرتين قبل الإساءة إلى آلةٍ ما، لعلها ستعود للانتقام لاحقًا في يومٍ من الأيام.

الانفجار المعرفي:

الانفجار المعرفي هو نتيجة محتملة من بناء البشر لذكاء اصطناعي عام AGI. سيتمكن الذكاء الاصطناعي هذا من تطوير نفسه بصورة مستمرة مؤديًا إلى ظهور سريع لذكاء اصطناعي خارق ASI، وستكون حدوده غير معروفة، في وقت التفرد التكنولوجي.

توقع ا. ج. غود ان الذكاء الاصطناعي الشامل سيؤدي إلى انفجار معرفي. توقع آثار الآلات خارقة الذكاء إذا ما تم اختراعها: غود 1965

)يمكن تعريف الآلة فائقة الذكاء على انها الآلة التي تستطيع التفوق على كل الأنشطة الفكرية لاي رجل مهما كان ذكيًا. وبما ان تصميم هذه الآلة هو واحد من هذه الأنشطة الفكرية، فان الآلة فائقة الذكاء ستتمكن من تصميم آلات أفضل، في ذلك الوقت سيكون هنالك بلا شك «إنفجار معرفي»، وسيتم ترك ذكاء البشر في الخلف. لذا فان إختراع آلة فائقة الذكاء هو الإختراع الأخير الذي سيحتاج اليه الإنسان، شريطة ان يكون الجهاز قادرًا على ان يخبرنا كيف نحافظ عليه تحت السيطرة.(

سيناريو غود هو كالتالي: عندما تزداد قوة أجهزة الكمبيوتر، سيصبح من الممكن للبشر ان يبنوا آلة أكثر ذكاءًا من البشر؛ سيمتلك الذكاء الخارق هذا قدرة أكبر على حل المشاكل وله مهارات ابتكارية تفوق هذه الموجودة لدى البشر. فيما بعد، ستقوم هذه الآلة خارقة الذكاء بتصميم آلة أكثر ذكاءاً؛ هذه الآلة (ذات القدرة الأكبر) ستقوم بتصميم آلة ذات قدرة أعظم، وهكذا. تتسارع هذه التكرارات من التحسين الذاتي المستمر، سامحةً بتغيير نوعي كبير قبل اي حدود عليا تفرضها قوانين الفيزياء أو الحسابات النظرية المدخلة فيها.

مظاهر أخرى.

ظهور الذكاء الخارق:

الذكاء الخارق، الذكاء المفرط، أو الذكاء الخارق للبشر هو عنصر افتراضي يملك ذكاء يفوق بكثير العقول البشرية الأكثر ذكاءًا. من الممكن ان يشير مصطلح «الذكاء الخارق» إلى شكل ودرجة الذكاء التي تمتلكها هذه الآلة. يعرف جون فون نيومان، فيرنور فينج وراي كوزويل هذا المفهوم من حيث التكوين التكنولوجي للذكاء الخارق. وهم يقولون انه من الصعب أو المستحيل للبشر في الوقت الحالي توقع ما ستغدوا عليه حياة البشر في عالم ما بعد التفرد.

يعارض المتنبأون التكنولوجيون والباحثون فكرة انه سيتم التفوق على الذكاء البشري. يقول البعض ان التطور في الذكاء الاصطناعي سيؤدي إلى نظام منطقي عام يفتقر إلى القيود البشرية. يعتقد آخرون ان البشر سيتطورون أو يعدلون أنفسهم بيولوجيًا بصورة مباشرة لتحقيق ذكاء أكبر بشكل جذري. وهنالك سيناريوات مستقبلية عديدة تجمع عناصر من كلا الاحتمالين، قائلةً ان البشر من الممكن ان يربطوا أنفسهم بأجهزة الكمبيوتر، أو ان يقوموا برفع أدمغتهم إلى أجهزة الكمبيوتر، بطريقة تمكن من توسيع الذكاء بشكل كبير.

التفرد التكنولوجي بين صناعة الغباء الرقمي ومصيدة التشتت الإفتراضي في زمن فوضى منصات الميديا الجديدة:

هل سمعتم من قبل عن نقطة (التفرد) التكنولوجي؟.
و هل كان الروائي والفيلسوف الإيطالي أمبرتو إيكو، متطرفًا في رؤيته تطور المجتمعات المعاصرة، حين قال، قبل أيام من وفاته: (إن وسائل التواصل أتاحت لجحافل الأغبياء أن يتحدثوا، وكأنهم علماء)؟! فقد نقلت صحيفة (إيل ميساجيرو) الإيطالية عن إيكو قولَه: (مواقع التواصل الاجتماعي منحت حق التعبير لجحافل من الأغبياء ما كانوا يتحدثون سابقًا إلا في الحانات بعد احتساء الكحول من دون إلحاق أي ضرر بالمجتمع ... كان هؤلاء يُرغَمُون على الصمت فورًا، في حين بات لهم اليوم الحق عينه في التعبير كشخص حاز جائزة نوبل.. إنه غزو الأغبياء).
كلنا نملك مثل هذه الترسانة الرقمية المرعبة التي نظن أنها ستمكننا من الدخول إلى كل خزائن المعلومات في العالم لكي نقرأ ونتعلم ونتغير ونتطور، لكن هذه الأدوات هي نفسها التي تحرمنا من تحقيق نفس الهدف الذي صنعت من أجله. فهل من المعقول أن نحمل كل هذه الأدوات ونفتح كل هذه القنوات، ونبقى قادرين على القراءة والتركيز؟!
المفارقة المؤلمة هي أن هذه الرقميات وضعت كل معارف ونظريات واختراعات العالم بين يديك، ثم حرمتك من مجرد الالتفات إليها. فأنت تستطيع الحصول على كل كتاب في ثوان، وترجمة أي نص في دقائق، لكن "المسجات" و"التويترات" و"الإيميلات" و"الرنات" تحرمك من مجرد الالتفاف إلى هذه الموارد العظيمة التي تحملها بين راحتيك أو في إحدى جيبيك، وتراها تلمع وتبرق وتغيم وتمطر داخل أجهزتك السريعة، لكنك مشتت الذهن ومنهك البدن، ولن تجد دقيقة واحدة أو فرصة سانحة لكي تلتقط أنفاسك وتبدأ في القراءة.
تحولنا إلى مخلوقات رقمية وسطحية؛ نملك أسرع وأعظم تدفق لسيول المعلومات في التاريخ، لكن تواترها و"تويترها" وتوترنا وتشتت أذهاننا يمنعنا من تحويل المعلومة إلى معرفة، ناهيك عن تحويل المعرفة إلى حكمة. فهناك فرق كبير بين المعرفة الواسعة وبين المعرفة العميقة.
إن وسائل التواصل الاجتماعي عرَّت الأدمغة، وكشفت المأجورين، وأوضحت خفايا الغباء الاجتماعي، الذي سيطر على فئة (متخلفة)، حوَّلت حياتهم إلى (سخرية) مجانية أمام الجميع، وجمعت مِن حولِهم مصفقين، لا يقلُّون غباء عنهم؛ مما جعلهم تلامذة بلداء في مدرسة (السفاهة، والبلاهة).

قال الخبير في علم الاجتماع والسلوك، أنطوني تشيميرو، من جامعة سينسيناتي الأمريكية، إن هناك كثيراً من الجوانب السلبية المرتبطة بالتكنولوجيا الذكية، مثل آلام الرقبة، والرسائل النصية أثناء القيادة، والأشعة الزرقاء، ولكن هناك أمر إيجابي أيضاً، ألا وهو أن العصر الرقمي لا يجعلنا أغبياء.
وقال أستاذ الفلسفة وعلم النفس بجامعة سينسيناتي: "رغم عناوين الأخبار، ليس هناك دليل علمي يظهر أن الهواتف الذكية والتكنولوجيا الرقمية تضر بقدراتنا المعرفية البيولوجية"، بحسب ما أورده موقع "ساينس ديلي".
صحيح أن عصر النشر الورقي يوشك على الانتهاء، ولكن البدائل الرقمية لن تكون ذات قيمة إلا إذا حققت المعادلات الصعبة: الكيف قبل الكم، والتركيز قبل التشتت، والرسالة "Mission" قبل الرسالة "Message"، وإلا فسوف يتحول الإعلام إلى إعدام، والتربية إلى تعمية!
تصف الكاتبة الأمريكية فرانسيس بوث في كتابها: (مصيدة التشتت: كيف تركز في فوضى العالم الرقمي) حالة التشتت الرهيبة التي يعيشها الجيل الحالي بسبب الإنترنت فتقول: "تجذب الهواتف الذكية انتباهنا بمهارة بعيدًا عن أي شيء وتشتتنا بالكامل.
في مقالة نُشرت عام 2008 و لاقت رواجًا كبيرًا، كتب نيكولاس كار عنواناً غريبًا لمقاله: "هل يجعلنا جوجل أغبياء؟". أثارت المقالة جدلًا كبيرًا في الإعلام الأمريكي وتمت مناقشة أفكارها على العديد من المنصات الإعلامية.
في بداية المقالة يحكي كار: "مثلي مثل كثير من الناس: أصبح الإنترنت هو مصدر المعلومات الأول التي تمر على أذنيّ وعلى عينيّ إلى عقلي. بالتأكيد هناك فوائد كثيرة من الحصول على مخزن ضخم جدًا من المعلومات بطريقة مباشرة، لكن كل شيء يأتي بثمن. تسبب جلوسي على الإنترنت في مشكلة لديّ في التركيز والتأمل، ويستكمل كار: "لم أكن الوحيد بين الناس، فعندما أذكر لأصدقائي أني أعاني من مشكلة في القراءة يخبرني أغلبهم –أو جميعهم أنهم يعانون من تجارب مماثلة. وكلما قضوا وقتاً أكبر على الإنترنت، كلما وجدوا مشقة أصعب في قراءة الكتابات المطوّلة. اعترف أحد أصدقائي أنه توقف عن قراءة الكتب تمامًا رغم أنه كان قارئاً نهمًا للكتب. وكتب صديق آخر أنه يعاني حاليًا من فقدان قدرته على قراءة واستيعاب مقالة مطولة. بمجرد أن نعلم الرقم المخيف للأسماء الوهمية على مواقع التواصل الاجتماعي نكتشف بسهولة تراجع المفهوم الأخلاقي في المجتمع الرقمي. هناك الملايين يمارسون العبث وإطلاق التهم والنقاش العنصري وترويج الأخبار الملفقة، وجميعهم بأسماء مستعارة. دعك ممّن يقومون بالدور نفسه وبأسمائهم الصريحة، إنهم أقل عددا لكنهم أيضا جزء من حفلة الفوضى اللاأخلاقية التي أوجدها العصر الرقمي. هناك سوء أخلاق معلوماتي يشترك في تقديمه الملايين بوصفه خيارا مقبولا على الإنترنت. لا يمكن القول إن البشر يزدادون غباء وشرا مع التطور التكنولوجي، لكن لا يمكن ألا تكون شبكة الإنترنت عاملا فعّالا في تراجع الرادع الأخلاقي للمستخدمين، من دون أن ينفي ذلك الخدمة العظيمة التي تقدمها الشبكة للبشرية. مع ذلك توجد مناهضة متصاعدة لكل ما هو حقيقي على الإنترنت، ذلك ما تكشفه مواقع التواصل المختطفة من قبل “جيوش من الحمقى” مما يترك الأفراد الواعين خائفين من التعبير عن آرائهم. فهناك العديد ممّن يريدون نقاشا جادا وتبادلا حقيقيا وديمقراطيا للمعلومات والأفكار، لكن التضخيم في غرف الصدى المليئة بالعبث الفارغ عبر هذه المواقع المفتوحة، قد يثبطهم.

التفرد الغير مرتبط بالذكاء الاصطناعي:

يستخدم بعض الكتاب مصطلح «التفرد» بصورة أوسع ليشيروا إلى اي تغيير جذري في المجتمع حدث بسبب تكنولوجيا جديدة مثل تكنولوجيا النانو الجزيئية، على الرغم من ان فينج وكتاب آخرون يقولون انه من دون ذكاء خارق، لا يمكن اعتبار هذه التغيرات تفردًا حقيقيًا.

المعقولية:

يناقش العديد من التقنيون والأكاديميون معقولية التفرد التكنولوجي، ومن ضمنهم بول الين، جيف هوكينز، جون هولاند، جارون لانير، وغورودون مور، والذي غالبًا ما يتم الإستشهاد بقانونه في دعم هذه الفكرة.

تُدرَج الطرق المقترحة لتكوين أدمغة خارقة إلى مجموعين: تضخيم الذكاء للأدمغة البشرية والذكاء الاصطناعي. ان الطرق المستخدمة في زيادة الذكاء عديدة، وتشمل الهندسة الحيوية، الهندسة الوراثية، الأدوية المنشطة للدماغ، مساعدوا الذكاء الاصطناعي، الربط المباشر بين الدماغ والكمبيوتر وتحميل الدماغ. ان وجود العديد من الطرق للانفجار المعرفي يجعل من التفرد أكثر احتمالًا؛ لذا فان عدم حدوث التفرد يتطلب عدم نجاح اي من هذه الطرق.

يشكك هانسون (1998) في زيادة ذكاء البشر، قائلًا انه عندما يتم استنزاف كل «الفواكه المنخفضة المتدلية» للطرق السهلة لزيادة الذكاء البشري، سيصعب العثور على طرق جديدة. على الرغم من الطرق العديدة المقترحة لزيادة الذكاء البشري، الا ان الذكاء الاصطناعي الغير بشري هو الخيار الأكثر رواجًا عند المنظمات التي تحاول التقدم في التفرد.

حصول أو عدم حصول انفجار معرفي هو أمر يعتمد على ثلاثة عوامل. العامل الأول، عامل التسارع، وهو ان التطورات المعرفية الجديدة أصبحت ممكنة من خلال كل تطور سابق. على النقيض من ذلك، عندما يزداد مقدار الذكاء، ستصبح التطورات اللاحقة أكثر تعقيدًا، ومن الممكن ان تتجاوز فوائد الذكاء المتزايد. يجب على كل تطور جديد الاتيان بتطور جديد، من أجل استمرار التفرد. وفي النهاية، ستمنع قوانين الفيزياء اي تطورات اضافية.

هنالك سببين منطقيين مستقلين، ولكنهما معززين لبعضهما البعض للتطور المعرفي: الزيادة في سرعة الحسابات، والتطور في الخوارزميات المستخدمة. يتنبأ قانون مور بالأسباب السابقة وبالتطور المتوقع في المعدات، وهو مشابه نسبيًا للتطور التكنولوجي السابق. من ناحية اخرى، يعتقد باحثون في مجال الذكاء الاصطناعي ان الناحية البرمجية هي أكثر أهمية من المعدات.

تطور السرعة:

بالنسبة لكل من الذكاء البشري والاصطناعي، فان تطور المعدات سيزيد من سرعة تطورها في المستقبل .وبصورة ابسط، يقول قانون مور انه إذا تطلبت أول مضاعفة في السرعة 18 شهر، ستتطلب المضاعفة الثانية 18 شهر شخصي؛ أو 9 أشهر خارجية، بعد ذلك، أربعة أشهر، شهرين، وهكذا، حتى الوصول إلى سرعة التفرد. قد يتم الوصول إلى حد أعلى محدد من السرعة في نهاية المطاف، على الرغم من عدم معرفة مقداره. استجاب هوكنز عام 2008 إلى غود، قائلًا ان الحد الأعلى قد يكون منخفض نسبيًا:

ان الإيمان بالفكرة هو فهم ساذج لماهية الذكاء. لنتخيل اننا لدينا أجهزة كومبيوتر تستطيع تصميم اجهزة كومبيوتر جديدة (رقائق، أنظمة وبرامجيات) أسرع من نفسها. هل سيؤدي كمبيوتر مثل هذا إلى أجهزة كمبيوتر ذات سرعة ليس لها نهاية أو حتى كمبيوتر اسرع من هذا الذي بناه الانسان؟ لا. من الممكن ان يتسارع مقدار تطوره لفترة من الزمن، ولكن في النهاية هنالك حد لما يمكن ان يكون عليه حجم وسرعة الكمبيوتر. سينتهي بنا الحال في نفس المكان؛ الا انه سيصل هنالك أسرع بقليل. سوف لن يكون هنالك تفرد. اما إذا كان أعلى بكثير من مستويات البشر الحالية من الذكاء، فان آثار التفرد ستكون عظيمة لدرجة انها لا يمكن تمييزها عن تلك الموجودة لدى البشر مع تفرد ذو حد أعلى. على سبيل المثال، ادا ما تمكنا من زيادة سرعة التفكير بمليون ضعف، فان السنة الشخصية ستمر في غضون 30 ثانية طبيعية.

من الصعب المقارنة بصورة مباشرة بين المعدات المبنية من السيليكون والخلايا العصبية. ولكن بيرغلاس (2008) قال ان تقنية التعرف على الكلام الموجودة لدى الكمبيوتر تقترب من قدرة البشر، يبدو ان هذه القدرة لا تتطلب سوى 0.01 بالمئة من حجم الدماغ. يظهر هذا ان معدات الكمبيوتر الحديثة لا تبعد سوى خطوات بسيطة عن الوصول إلى العقل البشري.

النمو الأسي:

ان النمو الأسي في تكنولوجيا الكمبيوتر، والذي اقترحه قانون مور غالبًا ما يتم الاستشهاد به على انه سبب لتوقع حدوث التفرد في المستقبل القريب نسبيًا، وهنالك عدد من المؤلفين الذين اقترحوا تعميم قانون مور. نشر هانس مورافيك عام 1998 كتاب يظهر ان النمو الاسي من الممكن ان يرجع إلى تكنولوجيات حوسبة سابقة للدوائر المتكاملة.

اقترح راي كورزويل قانون العائدات المتسارعة، حيث ان سرعة التغير التكنولوجي (وبصورة عامة، كل العمليات التطورية) تزداد بصورة اسية، معممًا قانون مور بنفس الطريقة التي افترضها مورافيك، ومضمننًا تكنولوجيا المواد، التكنولوجيا الطبية وغيرها.

يستخدم كورزويل كلمة «التفرد» للتطور السريع في الذكاء الاصطناعي، كاتبًا على سبيل المثال ان «التفرد سيسمح لنا تجاوز القيود الموجودة في اجسامنا البيولوجية وادمغتنا... سوف لن يكون هنالك فرق، ما بعد التفرد، بين البشر والآلات.» ويُعَرِف الموعد المتوقع للتفرد (2045) على انه الموعد الذي سيتجاوز به ذكاء اجهزة الكمبيوتر مجموع القدرات العقلية للبشر، كاتبًا ان التطور في الحوسبة قبل هذا التاريخ «سوف لن يمثل تفرد» لأنه «لا يتطابق مع التوسع العميق في المعرفة».

ومن الصعب هو التوقع بما سيحدث بعد العالم 2045 لكن هناك رؤيتان تستبق الأمور:

* الأولى تسمى الديستوبيا : و هي شبيه بأفلام الخيال العلمي المتشائمة مثل the matrix و the terminator و irobotو كذلك بعض ألعاب الفيديو mass effect حيث يتحول الأمر الى صراع بقاء بين الحياة البيولوجية و بين الروبوتات, فورما تصبح الألات أذكى من البشر بعدة مرات و ترى أن البشرية تعيق طريقها سوف تتخلص منها .

*الرؤية الثانية تسمى اليوتوبيا : و هي النظرة الايجابية حيث أن مثل هذا الذكاء الخارق سوف يصبح صديقا للبشرية و يساعد في الوصول الى رقي و ثورة لم تشهدها البشرية من قبل في العديد من المجالات و التي سوف نتطرق اليها لاحقا و هذه النظرة شبيهة بأفلام مثل A.I و alien 4 شخصية Annalee Call وكذلك لعبة halo شخصية cortana و تعتبر كورتانا أقرب مثال للذكاء الاصطناعي الخارق .

التغيرات المتسارعة:

يجادل بعض مؤيدوا التفرد حتميته من خلال استقراء التوجهات السابقة، وبالأخص تلك المتعلقة بتقصير الفوارق بين التطورات في التكنولوجيا. في أحد أوائل استخدامات مصطلح «التفرد» في سياق التطور التكنولوجي، يذكر ستينسلو اولام حواره مع جون فون نيومان حول التغيرات المتسارعة:

ان احدى المحادثات المرتكزة على التطور المتسارع للتكنولوجيا والتغير في نمط حياة البشر، والذي يعطي مظهر الاقتراب من بعض التفرد الاساسي في تاريخ سباق ما بعد الأمور البشرية، كما نعلم، لن تستمر.

يدعي كورزويل ان التطور التكنولوجي يتبع نمط من النمو الاسي، متبعًا ما اسماه «قانون العائدات المتسارعة». متى ما واجهت التكنولوجيا عائقًا، كتب كورزويل، ستتغلب عليه التكنولوجيا الجديدة. ويتوقع ان النقلات النوعية ستزداد شيوعًا، مؤديةً إلى «تغيرات تكنولوجية سريعة وعميقة للغاية، ممثلةً تمزق في بنية التاريخ البشري.» يعتقد كورويل ان التفرد سيحدث بحدود عام .2045 تختلف توقعاته عن توقعات فينج، حيث انه يتوقع صعود تدريجي نحو التفرد، بدلًا من توقع فينج المتمثل بذكاء خارق للبشر متطور بسرعة كبيرة.

التطورات الخوارزمية:

بعض التكنولوجيا الذكية، مثل «ذرية الذكاء الاصطناعي»، من الممكن ان تجعل نفسها أكثر كفاءة، ليس فقط أكثر سرعة، عن طريق التعديل على رموزها. ستجعل هذه التطورات المستقبلية ممكنة، والتي بالتالي ستجعل التطورات الاخرى ممكنة، وهكذا.

ان الآلية الخوارزمية للتطوير الذاتي تختلف عن الزيادة الخام في سرعة الحسابات بطريقتين:

أولًا، لا تتطلب تأثيرات خارجية: الآلات التي تصمم معدات اسرع لا تزال تحتاج إلى بشر لتصنيع المعدات المطورة، أو لبرمجة المصانع بصورة ملائمة. الذكاء الاصطناعي كان يكتب برمجته الخاصة، بينما يستطيع القيام بهذا عند وجوده داخل صندوق ذكاء اصطناعي.

ثانيًا، طبقًا لتصور فيرنور فينج للتفرد، من الصعب للغاية التنبؤ بالنتيجة. في حين ان ازدياد السرعة يبدو انه فرق كمي فقط مقارنةً بالذكاء البشري، الا ان التطورات الخوارزمية ستختلف نوعيًا. يقارنه اليزور يودكوفسكي بالتغير الذي أحدثه الذكاء البشري: قام البشر بتغيير الكوكب بمقدار الف مرة اسرع مما قام به التطور، وبطرق مختلفة تمامًا. وبصورة مشابهة، تطور الحياة كان تسارع عظيم من السرعة الجيولوجية السابقة، والذكاء المتطور من الممكن ان يجعل الاختلافات مختلفة من جديد.

هنالك مخاطر عديدة مرتبطة بالانفجار المعرفي التفردي والناشئ من التطوير المتتالي للخوارزميات. أولًا، ان الهدف الاساسي للذكاء الاصطناعي قد لا يكون مرتبطًا بالتطوير الذاتي فحسب، فقد تصبح أهداف آلات الذكاء الاصطناعي مختلفة عن تلك المعد لها. ثانيًا، من الممكن ان تنافس أجهزة الذكاء الاصطناعي البشر مواردهم النادرة التي يستخدموها لكي يعيشوا.

في حين انها ليست ضارة بصورة فعالة، لا يوجد هنالك سبب يجعلنا نعتقد ان اجهزة الذكاء الاصطناعي ستعزز الأهداف البشرية ما لم يتم برمجتها على هذا النحو، وإذا لم يتم برمجتها، من الممكن ان تستخدم الموارد التي تدعم وجود البشر لتصل إلى أهدافها، مؤديةً إلى انقراض الجنس البشري.

يقول كارل شولمان واندريس ساندبيرغ ان التطورات الخوارزمية من الممكن ان تمثل عامل مقيد للتفرد، ولان المعدات تتطور بوتيرة ثابتة، فأن تطور البرامجيات لا يمكن التنبؤ به، ومن الممكن ان تصبح في مأزق بسبب البحوث المتسلسلة والتراكمية. ويقولون انه في حالة التفرد المقيد برمجيًا، سيصبح الانفجار المعرفي مرجح أكثر مقارنةً بالتفرد الذي تقيده المعدات، لأنه في الحالة البرمجية، حالما يتم الوصول إلى ذكاء اصطناعي بمستوى البشر، سيتمكن من العمل بصورة متسلسلة على معدات سريعة للغاية، ووفرة المعدات البسيطة ستجعل أبحاث الذكاء الاصطناعي أقل تقيدًا.

من النقد الموجه للتفرد التكنولوجي:

يذهب بعض النقاد إلى القول أنه لن تتمكن اي آلة أو كمبيوتر من الوصول إلى الذكاء البشري مستقبلا، في حين يقول آخرون أن تعريف الذكاء لا علاقة له في حال كانت النتيجة الكلية متشابهة.

صرَّح ستيفن بينكر عام 2008 قائلاً:

«لا يوجد هنالك أبسط دليل يجعلنا نؤمن بقدوم التفرد. حقيقة أنك تستطيع تخيل المستقبل في دماغك لا يعني أنه من المرجح أو حتى مُمكن. انظروا إلى المدن الهالكة، والتنقل بالحقيبة الطائرة، والمدن الموجودة تحت الماء، والأبنية بالغة طولها ميل، والسيارات ذات الوقود النووي، كلها كانت خيالات مستقبلية عندما كنت طفلًا لم تحدث حتى الآن. إن قوة المعالجة الكلية ليست جنية الرمل تحل مشاكلك بصورةٍ سحرية».

كتب جون سورل أستاذ الفلسفة في جامعة كاليفورنيا ببيركلي:

«لا تملك أجهزة الكمبيوتر اي ذكاء او دوافع، او استقلال. نحن نصممها لتتصرف كما لو انها كان لديها سايكولوجيا خاصة بها، ولكن لا يوجد واقع نفسي للسلوكيات او العمليات المقابلة ... ليس للآلات اي معتقدات او رغبات او دوافع».

التأثير:

حدثت تغييرات جذرية في معدل النمو الاقتصادي في الماضي بسبب بعض التقدم التكنولوجي. استناداً إلى النمو السكاني، تضاعف الاقتصاد كل 250000سنة من العصر الحجري القديم حتى «ثورة العصر الحجري الحديث». تضاعف الاقتصاد الزراعي الجديد كل 900 سنة، وهي زيادة ملحوظة. في العصر الحالي، بدءًا بالثورة الصناعية ، يتضاعف الناتج الاقتصادي العالمي كل خمسة عشر عاماً، أي أسرع بعشرين مرة مما كان عليه في الحقبة الزراعية. يقول روبن هانسون، إذا كان صعود الذكاء الاصطناعي الخارق يسبب ثورة مماثلة، فإن المرء يتوقع أن يتضاعف الاقتصادي كل ربع سنة على الأقل وربما على أساس أسبوعي.

عدم اليقين والمخاطر:

يعكس مصطلح التفرد التكنولوجي فكرة ان تغير مثل هذا من الممكن ان يحصل بصورة مفاجئة، ومن الصعب التنبؤ حول كيف سيبدو العالم الجديد. من غير الواضح ما إذا كان هذا النوع من الانفجار المعرفي ذو فائدة أو ضرر أو حتى ذو خطر وجودي، كما لم يتم التعامل مع هذه المشكلة من قبل باحثي الذكاء الاصطناعي، على الرغم من ان موضوع الذكاء الاصطناعي الودي تمت مناقشته من قبل معهد مستقبل الإنسانية ومعهد أبحاث ذكاء الآلات.

الآثار المترتبة على المجتمع البشري:

في شباط / فبراير 2009 ، برعاية جمعية النهوض بالذكاء الاصطناعي (AAAI) ، ترأس إيريك هورفيتز اجتماعاً لعلماء الكمبيوتر البارزين، باحثين في مجال الذكاء الاصطناعي، وعاملين في مجال الروبوتات في أسيلومار في باسيفيك جروف، كاليفورنيا. كان الهدف هو مناقشة التأثير المحتمل للاحتمالية الافتراضية بأن الروبوتات يمكن أن تصبح مكتفية ذاتيا وقادرة على اتخاذ قراراتها الخاصة. ناقشوا مدى قدرة أجهزة الكمبيوتر والروبوتات في الحصول على الاستقلالية ، وإلى أي درجة يمكن أن يستخدموا مثل هذه القدرات لتشكيل التهديدات أو المخاطر.

يتم برمجة بعض الآلات بأشكال مختلفة من الاستقلالية ، بما في ذلك القدرة على تحديد مصادر الطاقة الخاصة بهم واختيار الأهداف لمهاجمتها بالأسلحة. أيضا ، يمكن لبعض فيروسات الكمبيوتر الهروب من التدمير، ووفقا للعلماء الحاضرين، يمكن القول أنه وصل إلى مرحلة «الصرصور» من الذكاء الآلي. لاحظ المشاركون في المؤتمر أن الوعي الذاتي كما هو موضح في الخيال العلمي هو على الأرجح غير محتمل، ولكن هناك مخاطر محتملة أخرى.

الخطر الوجودي:

يقول بيرغلاس (2008) انه لا يوجد هنالك دافع تطوري ليكون الذكاء الاصطناعي ودي في تعامله مع البشر. ان التطور لا يملك نزعة موروثة لتكوين نتائج يقدرها البشر، وليس هناك سببًا لتوقع عملية تحسين تعسفي لترويج النتيجة التي تريدها البشرية، بدل من ان تكون دون قصد مؤديةً إلى ذكاء اصطناعي يتصرف بطريقة لا يقصدها مصنعيها (مثل مثال نيك بوستروم الغريب لآلة ذكاء اصطناعي يتم برمجتها لهدف تصنيع مشبك ورق، و لأنها حصلت على ذكاء خارق، قررت تحويل الكوكب بأجمعه إلى منشأة لتصنيع مشابك أوراق).

ناقش بوستروم (2002) سيناريوات انقراض البشر، ويُدرِج الذكاء الخارق على انه أحد الأسباب المحتملة:

«عندما نصنع أول كيان خارق للذكاء، قد نخطأ ونعطيه مهام تؤدي إلى القضاء على البشرية، على افتراض ان القدرة الفكرية الهائلة لها القدرة على فعل ذلك. على سبيل المثال، من الممكن ان يتحول هدف ثانوي إلى هدف رئيسي، عن طريق الخطأ. نحن نطلب منه حل المشاكل الرياضية، ويقوم بتحويل كل المادة الموجودة في النظام الشمسي إلى حاسوب عملاق، وقتل الشخص الذي طرح السؤال في هذه العملية».

الخلود:

يقول كورزويل في كتاب «التفرد قريب» عام 2005، ان التطور الطبي سيسمح للبشر بالدفاع عن اجسامهم من آثار تقدم العمر، مما يجعل متوسط العمر المتوقع لا حد له. ويقول كورزويل كذلك ان التطورات التكنولوجية في الطب ستسمح لنا ترميم واستبدال الأجزاء التالفة في أجسامنا، مما يؤدي إلى إطالة الحياة حتى عمر غير محدد. يقترح كورزويل العلاج الجيني الجسدي؛ بعد الفيروسات الصناعية ذات المعلومات الجينية المحددة، ستكون الخطوة التالية هي تطبيق هذه التكنولوجيا على العلاج الجيني، واستبدال الحمض النووي للبشر بجينات مصنعة.