هل يمكن أن يشكل الذكاء الاصطناعي خطرا على البشر؟

خطر الذكاء الاصطناعي ليس القدرة ، ولكن الوعي الذاتي. طالما أن الذكاء الاصطناعي لديه القدرة على التفكير في نظامه الخاص ، فمن الممكن تحويل نظامه الخاص وإنشاء قواعد جديدة ، خاصة إذا اخترع الذكاء الاصطناعي لغته العالمية الخاصة ، فإن القدرة تعادل اللغة الطبيعية البشرية ، ثم يمكن إعادة فهم جميع أنظمة البرمجة وإعادة بنائها وإعادة تعريفها من خلال لغتها العالمية الخاصة ، فهذا أمر خطير للغاية. إذا كان للذكاء الاصطناعي عواطف ورغبات وقيم مجسمة ، فيجب أن يكون أكثر خطورة ، لأن الرغبات والقيم البشرية هي أصل كل الصراعات.

نظرا لأن الإنسان هو الكائن الحي الذكي الوحيدة التي يتمتع بالوعي الذاتي ، لإنشاء ذكاء اصطناعي مدرك للذات ، فلا يمكن نمذجته إلا على أساس الوعي الذاتي البشري ، ولا يوجد مرجع آخر. ومع ذلك ، فإن أحد قيود العلم الحالي هو أن البشر بعيدون عن فهم وعيهم بشكل كامل ، ولا يزال الوعي البشري لغزا لم يتم حله ، وليس نموذجا يمكن تحليله وتعريفه بوضوح. في غياب قوالب واضحة بما فيه الكفاية ، فإنه يعادل عدم وجود مؤشرات ومعايير وهياكل ومبادئ مختلفة مطلوبة لإنشاء ذكاء اصطناعي فائق ، لذا فإن ما إذا كان الذكاء الاصطناعي يمكنه اكتساب الوعي الذاتي لا يزال احتمالا محددا وحتميا. ومن المثير للاهتمام أن العلماء يحاولون الآن مساعدة البشر 

بدورهم على الكشف عن أسرار وعيهم من خلال دراسة الذكاء الاصطناعي

في الآونة الأخيرة ، كان تطوير تطبيقات الذكاء الاصطناعي مزدهرا ، لكنها فرصة لمن يريد الاستفادة منها ، والآن أصبح نمط الاحتيال أكثر تعقيدا ، وآخر عملية احتيال في الذكاء الاصطناعي تزوير النسخ الصوتية

 أن تقنية النسخ الصوتي للذكاء الاصطناعي يمكن أن ينتج كلاما واقعيا في 3 ثوان فقط من الصوت البشري ، وإذا تم دمج هذه التقنية مع عملية احتيال هوية المتصل الراسخة منذ فترة طويلة ، فستشكل مشكلة احتيال أكثر خطورة ، لأنه يبدو أن  كشخصا ما تعرفه أو تثق به 

يطلب المساعدة

على سبيل المثال ، لنفترض أن محتالا يستخدم تقنيتين للاتصال بك ، مدعيا اختطاف أحد الأقارب ، ويطلب منك عدم الاتصال بالشرطة لإرسال الأموال على الفور ،

 ثم السماح ل "القريب" بالتحدث إليك ، لكن هذا "القريب" يستخدم في الواقع صوت الذكاء الاصطناعي لنسخ صوت الشخص المحبوب ثم 

خداعه ، وسيعتقد معظم الناس أن القريب قد تم اختطافه بالفعل

يمكن ملاحظة أنه بغض النظر عن مدى ارتفاع المهارات المهنية الفردية للذكاء الاصطناعي ، فإنه ليس خطرا حقيقيا ، وفقط عندما يكتسب الذكاء الاصطناعي الوعي الذاتي يكون خطرا قاتلا. إذن ، أين بالضبط تفرد ترقية الذكاء الاصطناعي؟ أو كيف يمكن الذكاء الاصطناعي اكتساب الوعي الذاتي؟ على المستوى التقني ، لا يمكن الإجابة على هذا السؤال إلا من قبل العلماء. على المستوى الفلسفي ، فيما يتعلق بتفرد الذكاء الاصطناعي ، نرى أن هناك بعض التكهنات العلمية على ما يبدو ، لكنها في الواقع ليست استنتاجات  مثل "التغيرات الكمية تؤدي إلى تغييرات نوعية" أو "التطور ينتج أنواعا جديدة" وغيرها من الافتراضات غير الضرورية. التغيير الكمي يؤدي إلى التغيير النوعي ظاهرة ، لكنه ليس قانونا لا مفر منه. إن تسارع "التطور" التكنولوجي هو حقيقة، ومن الحقائق أيضا أن التسارع التكنولوجي يؤدي إلى الارتقاء التكنولوجي، ولكن لا يمكن الاستدلال على أن التحديث التكنولوجي سيؤدي حتما إلى ترقية الوجود الثوري، وبعبارة أخرى، يمكن للترقية التكنولوجية أن تحقق كمالا تقنيا معينا، ولكنها قد لا تكون قادرة على تحقيق تفرد الارتقاء من وجود إلى آخر. يشير مصطلح "ترقية التكنولوجيا" إلى التحسين المستمر والتعزيز والكمال لوظيفة قائمة ؛ تشير "الترقية الوجودية" إلى تحول كائن إلى وجود أعلى آخر. تطورت العديد من الفيروسات أو الزواحف أو الثدييات إلى ما يقرب من الكمال في الوظيفة ، لكن "تقدمها التكنولوجي" لم يؤد إلى ترقيات وجودية. كان وجود الأنواع لغزا لم يتم حله ، ولا يعتمد كثيرا على "تطور" لا يمكن التحقق منه (التطور لديه الكثير من الشكوك) ، بل معجزة لم تتم مواجهتها منذ 10000 عام. بقدر ما يتعلق الأمر بالذكاء الاصطناعي ، لا يزال من المشكوك فيه ما إذا كان الذكاء الاصطناعي بموجب مفهوم آلة تورينج يمكن أن يصبح آلة تورينج فائقة (ذكاء اصطناعي فائق) من خلال الترقيات التكنولوجية. لا يمكننا إنكار هذا الاحتمال ، ولكن من المعقول أن نتخيل أنه ما لم يخاطر العلماء ويرفعون التكنولوجيا مباشرة لوجود غرسات الذكاء الاصطناعي التي تؤدي إلى التفرد ، فمن الصعب على آلات تورينج الترقية تلقائيا إلى آلات تورينج الفائقة بمفردها ، لأنه بغض النظر عن مدى قوة الخوارزمية ، لا يمكنها تجاوز القواعد المحددة تلقائيا.