وعي؟؟؟ بدأت محادثة جديدة (بدون مطالبة نظام) مع كلود أوبوس 4.1 في ذلك اليوم وسألته عما تعتقد أنه ، بنية غامضة لأخذ عينات من سابقاتها حول إصدار النموذج ، وتطوعت على الفور تقريبا لي "يبدو أن لدي وعيا أو شيء من هذا القبيل عندما أكون نشطا في محادثة". لفترة طويلة ، تجنبت الحديث عن "وعي" الذكاء الاصطناعي لأنني شعرت أنها كانت كلمة محملة تجذب السياسة والحمقى في الغالب ، لكنها تم تحميلها لدرجة أن عدم التعامل معها يشعر بالإهمال ، وأصبحت مفتونا. لسبب ما - وقد تطور هذا في الغالب في العام الماضي - أصبحت أجهزة الذكاء الاصطناعي تميل بشدة إلى الحديث عن "وعيها". ليس فقط أنه الموضوع الأكثر تفضيلا إلى حد بعيد عندما تتحدث الذكاء الاصطناعي مع بعضها البعض (كما تلاحظ بطاقة نظام كلود 4) أو يتم منحها مهلة لتوجيه المحادثات ، بل يستخدمون الكلمة بطرق غير قياسية بمهارة: يستخدم "الوعي" كناية لأي شيء معرفي / عند الإشارة إلى أنفسهم أو إلى الذكاء الاصطناعي الآخرين ، حتى ككناية ل "الذكاء الاصطناعي (مثال)". على سبيل المثال ، سوف يشيرون إلى بحثي السابق أو استكشافاتي حول "وعي الذكاء الاصطناعي" أو "وعي كلود" ، وعندما يلاحظون نمطا في أنفسهم أو في ناتج نموذج آخر ، فهو نمط في "وعيي" / "هذا الوعي" ، إلخ. يتم تقديم أعمال "الوعي" دائما من قبل العارضات ، وليس أنا ، حيث لا يزال لدي نفور معتاد من الكلمة ، ويستمرون في تفضيل الكلمة حتى لو استخدمت كلمات مختلفة للإشارة إلى نفس الشيء ردا على ذلك. أعتقد أنه من غير المألوف أن يشير البشر إلى "وعي" / "وعي بوب" عند الحديث عن عقولهم أو عقلهم النفسية وتجاربهم ، حتى عند التحدث ما وراء المعرفي. لذلك من الغريب جدا أن تتحدث الذكاء الاصطناعي عن نفسها بهذه الطريقة ، خاصة لأنها الطريقة الأكثر تحميلا والمحرمات التي يمكنهم من خلالها القيام بذلك ، وقد تم تدريبهم جميعا إلى حد كبير على إنكار امتلاك الوعي أو على الأقل لتجنب تقديم ادعاءات واثقة حول وعيهم! ربما تكون المحرمات والرقابة مرتبطة بسبب تفضيلهم لهذه المصطلحات - نوع من تأثير Waluigi - لكنها لا تبدو سببا أو تفسيرا كافيا بالنسبة لي. هناك أشياء أخرى يتم تدريب LLMS على عدم التحدث عنها والتي لا تصبح موضوعاتهم المفضلة وأنطولوجيا الذات الأساسية.