دکتر بابک اعرابی در گفتگو با سایت شورای راهبردی روابط خارجی با اشاره به ابراز نگرانی آمریکا و اروپا نسبت به راهبرد توسعه هوش مصنوعی از سوی چین و ادعای جهت گیری ایدئولوژیک سیستم‌های هوش مصنوعی چینی، تصریح کرد: هوش مصنوعی به شکلی توسعه یافته است که توانسته با ساخت ابزارهایی کارآمد، چهره دنیا را تغییر دهد. ریشه این تحول را باید در علوم کامپیوتر، مهندسی برق، علوم اطلاعات و علوم شناختی جست.

وی افزود: تحول دیجیتال با توسعه پردازنده‌ها، حسگرها و حافظه‌های متصل به هم در شبکه‌های بی‌سیم ممکن شده است. هوش مصنوعی در این بستر امکان رشد سریع و قابل ارائه یافته است. شبکه‌ای عظیم از گوشی‌های تلفن همراه، کامپیوترها، دوربین‌ها، اتومبیل‌ها، کنسول‌های بازی، تلویزیون‌ها و لوازم خانگی و انواع «اَپ»های کاربردی، شبکه‌ای بسیار گسترده از انواع سخت افزار و نرم افزار هستند که امکان درک برخط شرایط پیرامون و تصمیم گیری برخط را به ما می‌دهند. این ساختار نوپدید ظرفیت‌های جدیدی برای حکمرانی و در عین حال برای خروج از سیطره حکمرانان مسلط ایجاد می‌کند.

این استاد علوم کامپیوتر و هوش مصنوعی با اشاره به چالش‌های ایجاد شده به واسطه توسعه استفاده از رمزارزها و تکنولوژی «بلاک چین»، برای کنترل، نظارت و مدیریت بانک‌های مرکزی و همچنین گسترش بهره گیری از شبکه‌های اجتماعی و فضای مجازی با تولید و انتشار اخبار، برای افکارعمومی و حاکمیت‌ها، افزود: غول‌های رسانه‌ای در شرایط فعلی همواره از «شهروند-خبرنگار»ها عقب هستند و در مواردی خود را به آن‌ها متکی می‌کنند. مسئله‌ای که غالبا علایق و دیدگاه‌های حاکمیتی ‌ها را درنظر نمی گیرد.

اعرابی ضمن تشریح عملکرد و پیامدهای استفاده از ChatGPT به عنوان یکی از جدیدترین و پیشرفته‌ترین ابزارهای تولید شده در بستر هوش مصنوعی توضیح داد: این ابزار کارآمد، چالش‌های متعددی را نیز به همراه آورده است. توسعه این تکنولوژی و وابستگی قابل تصور افراد عادی جامعه در تصمیم‌گیری به آن، در کنار جهت‌گیری توسعه دهندگان ابزار، منشاء تحولات و نگرانی‌هایی است. در مباحث یادگیری ماشین در هوش مصنوعی، موضوع «سوگیری»، مسئله‌ای قدیمی و مهم است. بخش بزرگی از جهت‌گیری ‌ها ناخواسته و با توجه به محدودیت داد‌ه‌ها، اجتناب ناپذیر است. حال آنکه جهت‌گیری می‌تواند آگاهانه نیز اتفاق ‌افتد.

وی افزود: چشم پوشی از جهت‌گیری ‌ها در سیستم‌های هوش مصنوعی و پذیرش چشم بسته خروجی آن‌ها می‌تواند اشکالاتی ایجاد ‌کند. حکمرانان می‌توانند با تحمیل دیدگاه‌ها و چارچوب تفکری و ایدئولوژیک خود، از ابزارهای مبتنی بر هوش مصنوعی، در جهت اهداف خود استفاده ‌کنند. در این بستر، طراحان و تحلیلگران سیستم، می‌توانند هنگام طراحی با جهت‌گیری ‌ها مقابله کنند یا وجود آن‌ها را به روش‌های تحلیل آماری نشان دهند.

این تحلیلگر علوم کامپیوتر و هوش مصنوعی با بیان اینکه سیستم‌های هوش مصنوعی، متکی بر یادگیری و در نتیجه داده محور هستند، توضیح داد: هوش مصنوعی باید به سمتی برود که «توصیف پذیر» باشد و با شفاف و تفسیرپذیر بودن فرایند استدلالی‌اش، به کاربران مسیر رسیدن به نتیجه را هم نشان دهد. چالش جدی که در سیستمهای مبتنی بر یادگیری ماشین وجود دارد، مسئله توصیف پذیری است. شاید بخشی از علل این عدم توصیف پذیری عامدانه باشد، اما به یقین بخش بزرگتر مربوط به دشواری توصیف پذیر ساختن ماشین‌های پیچیده پشتیبان تصمیمی است.

اعرابی اضافه کرد: غربی‌ها، چین را متهم می‌کنند که روش استنتاج و فرایند استدلالی سیستم‌های مبتنی بر هوش مصنوعی شان، بدون جهت گیری بوده، منصفانه و توصیف پذیر نیست. البته نمونه‌های غربی نیز چنین ضعفی دارند و نمی توان گفت آن‌ها منصفانه و توصیف‌پذیر هستند. این یک چالش اساسی جهانی است. اگر قرار است سیستم‌های مبتنی بر هوش مصنوعی توسعه یابند، نقش بیشتری در زندگی ما داشته باشند و ما برای تصمیم گیری‌هایمان بیشتر به آن‌ها وابسته شویم، لازم است مجموعه‌ها و سازمان‌های اخلاق مدار و مردم نهادی داشته باشیم که مستقل از حاکمیت‌ها، نگران این مسائل باشند و سعی کنند از این منظر، ابزارهایی را که در حدود بیست تا سی سال آینده به طور گسترده وارد زندگی ما خواهند شد، رصد کنند.

این استاد دانشگاه تهران، به اهمیت قانون گذاری از سوی دولت‌ها برای مدیریت این چالش‌ها اشاره کرد و گفت: برای نمونه دولت‌ها می‌توانند شرکت‌هایی را که ابزارهای مبتنی بر هوش مصنوعی تولید می‌کنند، ملزم کنند تا عدم وجود جهت‌گیری و منصفانه بودن تصمیم‌ها، همراه با استدلال شفاف و قابل درک و توصیف پذیر را به تدریج تضمین کنند.

وی با بیان اینکه قضاوت راجع به میزان پیشرفت غرب و چین در زمینه هوش مصنوعی و پیشتازی آن‌ها اصلا ساده نیست، توضیح داد: در شرایطی که شاهد نوعی فضای جنگ سرد در روابط آمریکا و چین هستیم، به نظر می‌رسد فضای رسانه‌ای که درخصوص پیشتازی چین در حوزه هوش مصنوعی حاکم شده است، بیشتر جنبه هماوردی و تبلیغاتی، برای ایجاد رعب و وحشت نسبت به رقیب داشته باشد. البته با توجه به رشد همه جانبه و خصوصا اقتصادی چین در سی سال گذشته شاید بتوان گفت به لحاظ وزن علمی و تکنولوژیک شاهد تفاوت عمده‌ای میان دو طرف نیستیم. گرچه ممکن است طرف غربی، به لطف سابقه بیشتر، مقداری جلوتر باشد.

اعرابی با تاکید براینکه ابزارها فی نفسه اخلاقی و یا غیراخلاقی نیستند، اما می‌توان از آن‌ها استفاده‌های مناسب و یا نامناسب داشت، به تلاش برخی دولت‌های اروپایی برای اعمال چارچوب قانونی شفاف و جامع برای حفاظت از داده‌ها و حرکت به سمت هوش مصنوعی قابل اعتماد، با اعمال برخی استانداردها برای ایجاد قابلیت توضیح و ردیابی نتایج، اشاره کرد و ادامه داد: با توجه به اینکه در مراحل اول قانون گذاری در این رابطه برای زندگی مردم هستیم، چالش‌ها و ظرفیت‌های متعددی در این خصوص وجود دارد.

وی افزود: در شرایط فعلی، ابزارها توسعه یافته‌اند اما قوانین وضع نشده‌اند. باید درنظر داشت در مباحث حقوقی حوزه فناوری، وجود افراد فن سالار و در عین حال حقوقدان، ضروری است. این مسئله درخصوص هوش مصنوعی نیز صدق می‌کند. ما برای قانونگذاری و ارائه نظرات درست، باید افرادی تربیت کنیم که در عین داشتن تخصص در زمینه هوش مصنوعی، حقوقدان نیز باشند. ممکن است به زودی کنوانسیون‌های بین‌المللی به وجود آیند که بخواهند در این باره بحث و بررسی‌هایی انجام دهند، ما هم باید بتوانیم ضمن ورود به آنها، دیدگاه‌های خود را مطرح کنیم.