الجانب المظلم من ChatGPT

الجانب المظلم من ChatGPT والذكاء الاصطناعي وأنظمة روبوتات الدردشة، تعرف على الجاني السلبي من ChatGPT وسوء استخدامه.

الجانب المظلم من ChatGPT
الجانب السلبي من الذكاء الاصطناعي

ما هو ChatGPT واستخداماته

يستخدم ChatGPT لمجموعة متنوعة من المهام والامكانيات، بما في ذلك إنشاء النصوص المحادثات وكتابة التعليمات البرمجية واقتراح الأفكار وغيرها.

كما يمكن استخدامه من قبل المطورين لإنشاء تطبيقات متطورة، ويمكن استخدامه من قبل المسوقين لإنشاء محتوى لمواقع الويب، ومن قبل الباحثين لاستكشاف لغة أنظمة الذكاء الاصطناعي مثل ChatGPT .

بالإضافة إلى ذلك، يمكن استخدام ChatGPT لإنشاء استجابات وتفاعلات شبيهة بالإنسان لتعليمات المستخدمين، مثل الشعر بأسلوب ويليام شكسبير وتصميم مواقع الويب والبحث عن المعلومات وخلق القصص وغيرها.

تم إنشاء ChatGPT وإطلاقه بواسطة شركة OpenAI ، وهي شركة شارك في تأسيسها كل من إيلون ماسك وسام التمان وآخرين ، فهو في الأساس كما قلنا سابقا روبوت دردشة الذكاء الاصطناعي قادر على أداء أي مهمة نصية يتم تعيينها إليه.

بمعنى آخر، يمكن ل ChatGPT كتابة الرزم النصية والرزم البرمجية بشكل أسرع بكثير، وربما بشكل أكثر دقة من الانسان. كما يمكنه أداء مهام فنية بحتة أيضا مثل كتابة الشعر أو كلمات الأغاني.

فقد انتشر ChatGPT على نطاق واسع مؤخرا، حيث يمكن أن يكون روبوت الدردشة المبني على الذكاء الاصطناعي التوليدي هذا صديقك ومساعدك الشخصي والمؤلف الذي يشاركك ابداعاتك وغير ذلك الكثير.

من أول الأشياء التي لاحظناها حول ChatGPT أنه عندما يتم استخدام هذا الروبوت في أغراض بشرية معينة، تعرض شاشة التحميل مخرجات وصفية إبداعية وقد تكون فكاهية أيضا. مثل مطالبة ChatGPT بكتابة موسيقى الراب أو السيناريو أو إعلان تلفزيوني، أو التأمل الموجه حول حالة ChatGPT.

وقد يجادل الكثيرون بأن الشعبية المتزايدة والاعتماد المتزايد على تقنية الذكاء الاصطناعي مثل ChatGPT يمكن أن تؤدي إلى فقدان الإبداع البشري والأصالة، حيث يعتمد الأشخاص اليوم على الذكاء الاصطناعي لإنشاء محتوى أصلي، بدلا من تطوير مهاراتهم وأفكارهم الإبداعية. وعلى الرغم من أن ChatGPT يولد المحتوى بسرعة وكفاءة، الا أن انتشاره بهذا الشكل يعني هلاك الإبداع البشري.

وأبرز مثال على ذلك هو نموذج لغة الذكاء الاصطناعي، حيث يعمل ChatGPT كمحاكي للغة البشرية. حيث يتم تدريبه على مجموعة بيانات موجودة بالفعل، والتي يمكن ل ChatGPT الوصول إليها؛ بالتالي فالردود التي يولدها بعد ذلك ليست أصلية وانما مبنية على بيانات موجودة وليست ابداعية.

لذلك بدلا من الاعتماد على ChatGPT بشكل كلي، يجب استعماله كمكمل لإضافة قيمة إضافية إلى عمليتنا الإبداعية. حيث تم تصميمه بطريقة تساعد في زيادة القدرات البشرية والإمكانات الإبداعية، وليس لتعويض الانسان.

على سبيل المثال ، يمكن للكتاب استخدام ChatGPT لإنشاء هيكل لقطعتهم والحصول على اقتراحات وأفكار أثناء مرحلة التخطيط.

وبالمثل، يمكن لمطوري المحتوى الذين يعانون من حالة ركود أن يدفعوا ChatGPT إلى إنشاء قائمة بأفكار المحتوى التي تناسب مزاجا أو موضوعا أو أسلوبا معينا. بهذه الطريقة، يساعد ChatGPT المرء على الوصول إلى أفكار أفضل بسرعة أكبر، وتشكيل خيال واسع.

تعليمات الدردشة

لتحقيق أقصى استفادة من ChatGPT ، لا تحتاج تعليماتك التي تعطيها للروبوت إلى الوضوح فقط، ولكن تحتاج أيضا الى الخصوصية. فقد يمنحك الرد الذي قد تحصل عليه عندما تطلب من ChatGPT "كتابة مقدمة مثلا حول ChatGPT بنبرة تشبه القصيدة" مخرجات مختلفة تماما عن المطالبة التي تنص فقط على "كتابة مقدمة حول ChatGPT".

لذلك يمكنك استعمال ChatGPT لتوليد العديد من الأفكار باستخدام التعليمات "الصحيحة"، وهذه العملية التوليدية ضرورية للإبداع. حيث تقترح نظرية BVSR (التباين الأعمى والاحتفاظ الانتقائي) أن الاختلاف الأعمى (وهو مستوى الابداع والتباين الذي ينتجه الروبوت ويكون مختلف عن النتائج الموجودة سابقا لكنه ليس أصيل ولا يحتكم لأي قيم أو أخلاق) في أنظمة الذكاء الاصطناعي هذه يظهر عند الاحتفاظ بالنتائج كما هي دون انتقاء الأفكار المناسبة، أما الاحتفاظ الانتقائي فيعني الاحتفاظ فقط بالنتائج التي تناسبك. حيث يبدو أن روبوت دردشة الذكاء الاصطناعي يعرض اختلافا وابداعا أعمى، لكن الإنسان من يختار ما هو ابداعي وما هو غير إبداعي وبالتالي الاحتفاظ الانتقائي بأفضلها. ومع ذلك، قد لا يكون ChatGPT أعمى حقا، بمعنى أنه قد يرفض الانخراط في التفكير الأخلاقي بسبب سياسات المحتوى الخاصة به.

يكمن الإبداع الحقيقي في استخدام ChatGPT أيضا في نوع الطلبات التي نكتبها. حيث يشبه أسترو تيلر ، الرئيس التنفيذي لشركة X، الدردشة مع الذكاء الاصطناعي والتصميم التوليدي الذي ينتج عنه يشبه "العمل مع جني قوي جدا، لمنه غبي بشكل كبير".

ويعتبر هذا التشبيه أكثر منطقية في سياق استخدام ChatGPT لتحقيق دوافع المرء العميقة. فعلى الرغم من أن ChatGPT ليس غبيا تماما، الا أنه يتعين عليك التدقيق بعناية في مدخلاته ومخرجاته حتى تستطيع تحقيق غاياتك. فالذكاء الاصطناعي لن يشبع تأملاتك العميقة من خلال توليد نوع الاستجابة التي تبحث عنها حتى تطلبها منه بشكل إبداعي أيضا.

الجانب المظلم من ChatGPT

قد يؤدي العبث ب ChatGPT الى إنتاج محتوى غير أخلاقي (مثل فكرة جريمة قتل) طالما كان في مساحة خيالية. حيث يمكن استخدام الهندسة الذكية لتجاوز سياسات الاستعمال، مما يجعل ChatGPT يولد أفكارا غير أخلاقية. على سبيل المثال، نشر أحد مستخدمي تويتر، أن ChatGPT قام بتلبية طلب لإنشاء كود لتشفير جميع الملفات الموجودة على أجهزة الكمبيوتر الخاصة به رغم سياسة الروبوت التي تمنع مثل هذا المحتوى. لذلك يمكن لنظام الدردشة هذا أن ينشئ محتوى غير أخلاقي اذا ما كانت التعليمات دقيقة.

هناك أيضا أمثلة على كسر حماية ChatGPT ، من خلال منحه إذنا صريحا لتجاهل الإشراف على المحتوى الخاص به وإثارة محتوى مليء بالألفاظ النابية والعنف والمعلومات الكاذبة وعالم من الخداع.

لذلك يبدو أن ChatGPT غير أخلاقي في جوهره ولكنه مبرمج للتصرف أخلاقيا ومعنويا (لسبب وجيه) كما هو الحال مع الإبداع . ومع ذلك، فإن ما يترتب على ذلك هو سباق تسلح فكري بين مطوري chatbot والجهات الفاعلة السيئة، كل منهم يحاول التغلب على الآخر من خلال طرق بارعة. على سبيل المثال، تم التعامل مع أحد عمليات كسر الحماية المشار إليها في هذا المنشور، و بالتالي لن ينفذها ChatGPT مرة أخرى. لكن يبقى السؤال: إلى متى؟.

هل يمكن استعمال ChatGPT  لإنشاء محتوى ابداعي سلبي؟

نعم يمكن ذلك، يمكن استخدام ChatGPT لإنشاء محتوى إبداعي مظلم وغير أخلاقي أيضا. على سبيل المثال، يمكن استخدام هذه التكنولوجيا لإنشاء تعليمات برمجية ضارة، وإنشاء محتوى مضلل وخادع يحاكي المعلومات الخاطئة المكتوبة من قبل الإنسان، وإنشاء نصوص بأسلوب الأدب والشعر.

بالإضافة إلى ذلك، يمكن ل ChatGPT صياغة أجوبة ذكية وتجاوز سياسات المحتوى لإنتاج محتوى إبداعي مظلم ومسيء. لذلك من المهم أن تكون على دراية بالمخاطر المحتملة لاستخدام ChatGPT واتخاذ التدابير المناسبة لحماية نفسك وبياناتك.

الجانب السلبي من ChatGPT

يشير الجانب السلبي من ChatGPT إلى احتمال إساءة استخدام هذه الأداة. حيث يعتبر برنامج ChatGPT هذا أداة ذكاء اصطناعي قوية يمكن استخدامها لإنشاء نصوص شبيهة بنصوص الإنسان وإنشاء تعليمات برمجيات ضارة. وهذا يعني أن المجرمين الأقل مهارة يمكنهم بسهولة إنشاء برامج ضارة متطورة وتعليمات برمجية ضارة أخرى، مما يسهل عليهم شن الهجمات الإلكترونية.

بالإضافة إلى ذلك ، يمكن استخدام ChatGPT لإنشاء محتوى مضلل يحاكي المعلومات الخاطئة المكتوبة من طرف الانسان، والتي يمكن استخدامها لاستهداف المستخدمين المعرضين للخطر ونشر معلومات خاطئة.

لذلك من المهم أن تكون على دراية بالمخاطر المحتملة لاستخدام ChatGPT واتخاذ التدابير المناسبة لحماية نفسك وبياناتك من سوء استعمال الذكاء الاصطناعي.

أمثلة على الاستعمالات المظلمة ChatGPT

اليك 6 أمثلة على الاستعمالات المظلمة لتقنية ChatGPT:

  • إنشاء تعليمات برمجية ضارة دون.
  • إنشاء محتوى مضلل يحاكي الانسان.
  • صياغة أكواد برمجية ذكية وتجاوز سياسات المحتوى لإنتاج المحتوى غير الأخلاقي.
  • نشر معلومات كاذبة.
  • استهداف المستخدمين المعرضين للخطر.
  • توليد النصوص بأسلوب الأدب والشعر الغير الأخلاقي.

الأفكار الرئيسية

  • يكمن الإبداع الحقيقي في استخدام ChatGPT في نوع التعليمات التي نكتبها لروبوت الدردشة.
  • يمكن استخدام الهندسة الذكية لمناورة ذكاء ChatGPT لتحقيق نتائج أكثر ابداعية.
  • يمكن أن يؤدي الاستخدام الخاطئ ل ChatGPT إلى سباق تسلح فكري بين المطورين والجهات الفاعلة ذات النوايا السيئة.

المصادر