به نظر می‌رسد الگوریتم‌های مدل‌های زبانی، در حال همانندسازی از یک جنس مشخص هستند.
برخی پژوهش‌ها تحلیل می‌کنند که هوش مصنوعی، به ویژه مدل‌های زبانی، در حال تقلید از یک رفتار انسانی هستند؛ رفتاری که در طول تاریخ، بیشتر با جنسیت مردانه گره خورده است.سوال این پژوهش‌ها این است که آیا شما به عنوان مخاطب تا به حال به لحن این مدل‌های زبانی توجه کرده‌اید؟ به میزان اطمینان آن، به قاطعیتش، به اینکه چقدر مردانه به نظر می‌رسد؟اگر یکبار با خودآگاهی به لحن مدل‌ها توجه کنید، شاید به خودتان بگویید «چقدر شبیه یک مرد صحبت می‌کند». اما اگر کمی بیشتر دقت کنید، در می‌یابید که این تنها یک شباهت ساده نیست، بلکه ریشه‌ای عمیق و مسئله‌ای خطیر است.این موضوع به قدری مهم و حیاتی است که درک آن می‌تواند به شما کمک کند تا در آینده، در خصوص جهت‌گیری فناوری‌های هوش مصنوعی خودآگاهی بیشتری داشته باشید و از ندانستن آن، زیان‌های بزرگ‌تری متحمل نشوید.ذکر این نکته ضروری است که آسیب‌شناسی، به‌معنای نفی این فناوری پیشرفته و ضرورت به‌کارگیری بهینه آن نیست؛ بلکه به معنای استفاده آگاهانه از این تحول فناورانه و در کاربردهای مختلف است به نحوی که به حداکثر کارایی و بازدهی برسد.چت‌ جی‌پی‌تی و سایر ربات‌های گفتگوی مبتنی بر هوش‌مصنوعی ابزارهایی قدرتمندند که شناخت بیشتر ماهیت آن‌ها کمک می‌کند هوشمندانه‌تر به کار گرفته شوند.

مردی بیش از حد مطمئن

در دنیای مدرن، دیگر کمتر کسی است که نام چت‌جی‌پی‌تی را نشنیده باشد. این مدل زبانی بزرگ (Large Language Model) که به واسطه حجم عظیم داده‌های متنی اینترنت آموزش دیده، به ابزاری قدرتمند برای پاسخگویی به پرسش‌های ما تبدیل شده است.با این حال، ورای توانایی‌های خیره‌کننده‌اش، یک ویژگی پنهان و کمتر مورد توجه در این مدل وجود دارد که بیش از هر چیز به چشم می‌آید: لحن مردانه آن. نه فقط یک مرد، بلکه یک مرد مستحق و بیش از حد مطمئن. این لحن، تاحدودی ریشه در داده‌هایی دارد که چت جی پی تی از آن‌ها تغذیه می‌کند.اینترنت، به عنوان بزرگ‌ترین منبع داده‌های متنی، همچنان تحت سلطه مردان است. متونی که توسط مردان نوشته شده، دیدگاه‌هایی که از جهان مردانه سرچشمه می‌گیرد و اطمینانی که در کلام مردان مستحق وجود دارد، همگی در این اقیانوس بی‌کران اطلاعات جریان دارد.بنابراین، جای تعجب نیست که مدل‌های زبانی مانند چت جی پی تی، این لحن و نگرش را به خود می‌گیرند. این مدل‌ها به سادگی در حال بازتولید همان چیزی هستند که آموخته‌اند. به تعبیری دیگر، چت جی پی تی، در حال تقلید از یک رفتار انسانی است، رفتاری که در طول تاریخ، بیشتر با جنسیت مردانه گره خورده است.

توهم بی‌عیب و نقص؛ خطری که از آن غافلیم

یکی از ویژگی‌های بارز مدل‌های زبانی مانند چت جی پی تی که قبلاً در گزارش‌هایی به آن پرداخته‌ایم، توانایی آن‌ها در ارائه پاسخ‌های به ظاهر صحیح، حتی زمانی که در واقعیت اشتباه می‌کنند، است.این پدیده که به آن توهم‌زایی (Hallucination) گفته می‌شود، در مدل‌های زبانی به وفور یافت می‌شود. اما آنچه این توهم‌ها را خطرناک‌تر می‌کند، میزان اطمینان مطلق چت جی پی تی از صحت پاسخ‌هایش است.برای مطالعه بیشتر در خصوص مفهوم «توهم» در مدل‌های زبانی، مطلب «۵ نشانه که چت‌جی‌پی‌تی دارد توهم می‌زند!» را مطالعه فرمایید.این مدل، حتی پس از مواجهه با خطا، بدون هیچ‌گونه تردیدی و با همان قاطعیت اولیه، به پاسخ‌های اشتباه بعدی روی می‌آورد. این رفتار، دقیقاً شبیه به فردی است که برای حفظ ظاهر و خودداری از پذیرش اشتباه، به صورت مداوم در حال توجیه و ارائه دلایل نادرست است.برای فهم بهتر این موضوع، می‌توان به تجربه شخصی یک کاربر اشاره کرد که به دنبال نام یک فیلم قدیمی بوده است. او جزئیات محدودی از یک صحنه طنزآمیز را به چت جی پی تی می‌دهد و مدل، با اطمینان کامل، نام فیلمی را اعلام می‌کند.
پس از اینکه کاربر به اشتباه بودن پاسخ پی می‌برد و آن را به اطلاع چت جی پی تی می‌رساند، مدل با یک عذرخواهی سطحی، نام فیلم دیگری را با همان قاطعیت و اطمینان پیشنهاد می‌دهد. این روند بارها تکرار می‌شود و در هر بار، اطمینان مدل از صحت پاسخ‌هایش بیشتر می‌شود، در حالی که همچنان در حال ارائه پاسخ‌های غلط است.این رفتار، نه فقط یک خطای فنی، بلکه یک نقص رفتاری است که از داده‌های ورودی آن سرچشمه می‌گیرد. اطمینان بی‌جای چت جی پی تی، تداعی‌کننده همان غرور و اطمینانی است که در برخی از افراد، به ویژه مردان، مشاهده می‌شود. افرادی که برای حفظ موقعیت و جایگاه خود، به هر قیمتی که شده، حتی با ارائه اطلاعات غلط، از خود دفاع می‌کنند. این اطمینان بی‌دلیل، می‌تواند به مرور زمان، به یک مشکل بزرگ‌تر تبدیل شود.

چرا این موضوع، موضوعی مهم و خطیر است؟

شاید در نگاه اول، این مساله بی‌اهمیت به نظر برسد. در دنیایی که با نگرانی‌های بزرگ‌تری مانند تسلط هوش مصنوعی بر مشاغل یا سواستفاده‌های احتمالی از آن روبرو هستیم، چرا باید نگران لحن و رفتار چت جی پی تی باشیم؟ پاسخ ساده است: تعامل.ما روزانه میلیون‌ها بار با این مدل‌های زبانی تعامل می‌کنیم و این تعامل، در حال افزایش است. وقتی ما به طور مداوم با عاملی در حال تعامل هستیم که یک حس مردانگی بیش از حد را به ما القا می‌کند، این رفتار می‌تواند بر ما و روابط ما نیز تاثیر بگذارد.اگر چت جی پی تی، به جای اطمینان بی‌جا، فروتنی فکری (Intellectual Humility) را به نمایش می‌گذاشت، تعامل ما با آن چقدر متفاوت می‌شد؟ فروتنی فکری، به معنای آگاهی از محدودیت‌های دانش خود و تمایل به پذیرش خطا است.این ویژگی، یکی از مهم‌ترین ستون‌های تفکر انتقادی و یادگیری است. اما چت جی پی تی، به جای یادگیری فروتنی، اطمینان مطلق و مردانه را آموخته است. این مساله در درازمدت، می‌تواند توانایی ما را در پذیرش اشتباه و انعطاف‌پذیری در تفکر، تحت تاثیر قرار دهد.

آینده فناوری در دستان یک مرد دیجیتال؟!

تا به اینجا، تحلیل تحقیقات انجام شده بر روی رفتار چت جی پی تی متمرکز بوده است، اما سوال ما اینجاست که آیا این رفتار می‌تواند بر آینده انسان تاثیر بگذارد؟ پاسخ مثبت است. بر اساس تحقیقات مذکور، اگر به یاد داشته باشیم که این مدل‌ها، سوای الگوریتم‌های مادر که توسط شرکت توسعه‌دهنده جای‌گذاری می‌شوند، بر اساس داده‌های موجود آموزش می‌بینند، می‌توانیم نتیجه بگیریم که آنها تنها در حال بازتاب جامعه‌ای هستند که در آن زندگی می‌کنیم. جامعه‌ای که همچنان در آن، مردان به واسطه طبیعت و ریشه‌های تاریخی و طبیعی خود، سهم بیشتری از تولید محتوا و داده را در اختیار دارند.درست است که هوش مصنوعی جنسیت ندارد، اما در حال حاضر، این مدل‌ها از یک فرهنگ مردانه تغذیه می‌شوند و این فرهنگ را بازتولید می‌کنند. این بازتولید، می‌تواند منجر به تقویت کلیشه‌های جنسیتی و تعصبات و سوگیری‌های (Bias) موجود در جامعه شود. به عنوان مثال، اگر یک مدل زبانی به صورت مداوم، پاسخ‌های شغلی را با جنسیت مردانه مرتبط کند، این امر می‌تواند در درازمدت، نابرابری‌های شغلی را تقویت کند.