بیانیه رهبران کشورهای بریکس در مورد حکمرانی جهانی هوش مصنوعی

منبع: وزارت امور خارجه

هوش مصنوعی نمایانگر فرصتی مهم برای پیشبرد جهان به سوی آیندهای عادلانهتر است، که نوآوری را تحریک میکند، بهرهوری را افزایش میدهد، شیوههای توسعه پایدار را تقویت میکند و به طور ملموس رفاه تمام بشریت را بهبود میبخشد.

برای تحقق این چشمانداز، حکمرانی جهانی هوش مصنوعی باید خطرات بالقوه را کاهش دهد و بر رفع نیازهای کشورها، به ویژه کشورهای جنوب جهانی، تمرکز کند. حکمرانی باید تحت منشور ملل متحد و چارچوبهای نظارتی ملی انجام شود، حاکمیت ملی را محترم بشمارد و از اصول نمایندگی، جهتگیری توسعه، دسترسیپذیری، شمولگرایی، بهروزرسانی پویا و چابکی پیروی کند. این حکمرانی باید به طور ملموس بر حفاظت از دادههای شخصی، تضمین حقوق بشر، اطمینان از ایمنی، شفافیت و پایداری تمرکز کند و به پر کردن شکاف دیجیتال و دادههای رو به گسترش درون کشورها و بین آنها کمک نماید. کشورهای جهان باید با همکاری یکدیگر، سیستم حکمرانی هوش مصنوعی با محوریت سازمان ملل متحد را بسازند، ارزشهای مشترک را ترویج دهند، با خطرات مقابله کنند، اعتماد ایجاد نمایند و همکاریهای بینالمللی شمولگرا و دسترسیپذیری هوش مصنوعی را تضمین کنند، از جمله از طریق تقویت ظرفیتسازی هوش مصنوعی در کشورهای در حال توسعه.

در سطح بینالمللی، افزایش ابتکارات حکمرانی و اختلافات در هماهنگی چندجانبه ممکن است ناهماهنگیهای موجود و کسری مشروعیت در حکمرانی دیجیتال جهانی را تشدید کند، که به نوبه خود multilateralism را بیشتر تضعیف خواهد کرد.

برای حمایت از گفتگوی سازنده و دستیابی به مسیر حکمرانی متوازنتر، ما، رهبران کشورهای بریکس، به طور یکپارچه موافقت کردیم که مجموعهای از دستورالعملها را تدوین کنیم تا توسعه، استقرار و کاربرد فناوری هوش مصنوعی را به شیوهای مسئولانه پیش ببریم و به تحقق توسعه پایدار و رشد فراگیر کمک کنیم. این دستورالعملها صرفاً به حوزههای غیرنظامی هوش مصنوعی محدود میشوند و باید از طریق چارچوبهای ملی یا بینالمللی قابل اجرا و استانداردها و پروتکلهای قابلیت همکاری متقابل، به شیوهای فراگیر، شفاف و مبتنی بر اجماع اجرا شوند.

[SKIPPED]1. چندجانبهگرایی، مشروعیت و حاکمیت دیجیتال

[SKIPPED]سازمان ملل متحد هسته مرکزی حکمرانی جهانی هوش مصنوعی است.حکمرانی جهانی هوش مصنوعی باید به هر قیمتی از تکهتکه شدن و تکرار جلوگیری کند. ما باید از سیستم سازمان ملل به عنوان چارچوب بینالمللی کاملاً فراگیر و نماینده برای پیشبرد حکمرانی بینالمللی هوش مصنوعی استفاده کنیم. در فرآیندهای تصمیمگیری مربوط به ابتکارات سازمان ملل، ما باید مشارکت معنادار و نقشآفرینی بازارهای نوظهور و کشورهای در حال توسعه و جنوب جهانی را ترویج دهیم، در حالی که نقش مکمل چارچوبهای منطقهای و چندذینفعی را به رسمیت میشناسیم و تبادل سیاستهای هوش مصنوعی و گفتگو را تشویق میکنیم تا نوآوری و رشد اقتصادی را تحریک نماییم.

[SKIPPED]حکمرانی مشترک هوش مصنوعی پیچیده اما امیدوارکننده است.شبکههای ذینفعان مرتبط در کشورهای توسعهیافته و در حال توسعه باید با توجه به نقشها و مسئولیتهای خود، تخصص، دیدگاهها و منابع را ارائه دهند. با تأکید مجدد بر نقش اساسی و پیشرو دولتها در حکمرانی هوش مصنوعی، ما مایلیم با بخش خصوصی، نهادهای مدنی، سازمانهای بینالمللی، گروههای تحقیقاتی و دانشگاهی و سایر ذینفعان همکاری نزدیک داشته باشیم تا نمایندگی و شمولگرایی را محقق سازیم.

[SKIPPED]حاکمیت دیجیتال و حق توسعه کلیدهای حکمرانی جهانی هوش مصنوعی هستند.ما به شدت از حق کشورها در بهرهبرداری کامل از مزایای توسعه اقتصاد دیجیتال و فناوریهای نوظهور، به ویژه هوش مصنوعی، در عین دفاع از حقوق اساسی حمایت میکنیم. این امر از طریق تقویت زیرساختهای دیجیتال، پرورش استعدادهای فناوری محلی، اطمینان از محافظت شهروندان در برابر خطرات هوش مصنوعی و تدوین چارچوبهای نظارتی هوش مصنوعی در محدوده صلاحیتهای قانونی ملی، ارتقای تواناییهای تحقیقاتی هوش مصنوعی، پرورش نوآوریهای فناوری مستقل، تضمین امنیت دادهها و پیشبرد اقتصاد دیجیتال ملی محقق میشود.

[SKIPPED]2. هنجارهای بازار، حکمرانی داده و دسترسیپذیری فناوری

[SKIPPED]رقابت عادلانه و هنجارهای بازار سنگ بنای هوش مصنوعی برای آیندهای عادلانه هستند.اقتصاد دیجیتال باید با توجه به چارچوبها و مقررات قانونی داخلی و توافقنامههای بینالمللی قابل اجرا، حقوق و تعهدات کشورها، شرکتها و کاربران را مشخص کند، محیط بازار رقابتی و عادلانه ایجاد نماید و نوآوری و رشد اقتصادی را تقویت کند. ما بر اهمیت اجتناب از تکهتکه شدن سیستمهای نظارتی و ترویج هنجارهای بازار عادلانه و شفاف تأکید داریم، رقابت را تشویق میکنیم، رقابتپذیری را افزایش میدهیم و از هرگونه رفتار تحریفکننده جلوگیری مینماییم تا محیط بازار پایدار و سالمی ایجاد شود.

[SKIPPED]حکمرانی داده کلید حکمرانی فراگیر هوش مصنوعی است.ما تأکید داریم که حکمرانی عادلانه، فراگیر و منصفانه داده برای استفاده کشورهای در حال توسعه از اقتصاد دیجیتال و فناوریهای نوظهور مانند هوش مصنوعی حیاتی است. ما همچنین نیاز به ایجاد چارچوب حکمرانی داده بر اساس تفاهمنامه حکمرانی اقتصاد داده بریکس برای ایجاد اعتماد را به رسمیت میشناسیم، که ضمن احترام به چارچوبهای قانونی مربوط به حق حریم خصوصی، حفاظت از دادههای شخصی، شفافیت الگوریتمها، مالکیت فکری و امنیت ملی، دادههای باکیفیت، عادلانه، یکپارچه، ایمن و قابل اعتماد را برای کشورهای در حال توسعه فراهم میکند.

[SKIPPED]دسترسی به فناوری هوش مصنوعی باید از اصول عدالت، انصاف، توانمندسازی و شمولگرایی پیروی کند.کشورهای جهان، صرفنظر از مرحله توسعه اقتصادی، حق توسعه، استفاده و بهرهمندی از هوش مصنوعی را دارند. ما بر اهمیت ترویج دسترسی به فناوری هوش مصنوعی و اجزای کلیدی آن از طریق همکاریهای بینالمللی تأکید داریم، موانع مالی تحقیق و نوآوری هوش مصنوعی را از بین میبریم و به ویژه در کشورهای با درآمد کم و متوسط، چارچوبهای لازم دانش، مهارت و مدیریت ریسک را برای استفاده مؤثر از فناوری هوش مصنوعی ایجاد میکنیم.

[SKIPPED]تعادل بین حفاظت از مالکیت فکری و حفظ منافع عمومی ضروری است.باید تعادلی بین حق ثبت اختراع، شفافیت و پاسخگویی ایجاد شود تا منافع عمومی حفظ گردد، انتقال فناوری بینالمللی تسهیل شود و قوانین داخلی و بینالمللی قابل اجرا رعایت گردد. برای استفادههای غیرمجاز از هوش مصنوعی، مکانیسمهای مناسب حفاظت از مالکیت فکری، به ویژه حق چاپ، باید ایجاد شود تا از استخراج دادههای محرومکننده و نقض حریم خصوصی جلوگیری گردد، در حالی که مکانیسمهای جبران عادلانه نیز برقرار شوند. اقدامات حفاظتی مربوطه باید مکانیسمهای پاسخگویی روشنی داشته باشند و الزامات شفافیت ورودی و خروجی مدلهای هوش مصنوعی و سایر قوانین مرتبط را رعایت کنند.

[SKIPPED]توسعه هوش مصنوعی باید بر اساس اصل باز بودن و تشویق اکوسیستم نوآوری باشد.در چارچوب سیاستها و اولویتهای ملی، ما توسعه منبع باز و همکاریهای علمی و فناوری بینالمللی را از طریق مکانیسمهای علم باز و نوآوری باز تشویق میکنیم، که به عنوان موتورهای کلیدی برای ارتقای تحقیق، توسعه، نوآوری، حفاظت از دادهها، حاکمیت داده و تواناییهای استقرار هوش مصنوعی عمل میکنند، به محققان، توسعهدهندگان و سازمانهای مرتبط اجازه بررسی و حسابرسی میدهند و در نتیجه سیستمهای هوش مصنوعی ایمن، قابل اعتماد و شفاف را میسازند. ما باید مشارکت معنادار را تضمین کنیم و روشهای همکاری فراگیر را پرورش دهیم تا از موانع توسعه و زنجیره تأمین هوش مصنوعی جهانی جلوگیری شود. ما توسعه مدلهای پایه کارآمد، تخصصی و باز را تشویق میکنیم تا اکوسیستم نوآوری هوش مصنوعی تقویت گردد.

[SKIPPED]استانداردهای بینالمللی باید به تحقق هوش مصنوعی فراگیر، نماینده و قابل دسترس کمک کنند.تدوین استانداردهای فنی، هنجارها و پروتکلهای سیستمهای هوش مصنوعی باید با مشارکت بخش عمومی، سازمانهای تدوین استاندارد و نهادهای تخصصی سازمان ملل انجام شود تا اعتبار، قابلیت همکاری متقابل، ایمنی و قابلیت اطمینان در کل چرخه توسعه فناوری هوش مصنوعی و کاربردهای چندپلتفرمی تضمین گردد. ما باید از استفاده از تدوین استانداردها به عنوان مانع غیرمستقیم ورود به بازار برای کسبوکارهای کوچک و متوسط و اقتصادهای در حال توسعه جلوگیری کنیم.

[SKIPPED]3. عدالت و توسعه پایدار

[SKIPPED]هوش مصنوعی باید به طور عادلانه به اشتراک گذاشته شود.زیرساخت‌های قوی، ارتباطات معنادار و فراگیری دیجیتال پیش‌نیازهای استقرار هوش مصنوعی در هر کشوری هستند. خدمات دولتی دیجیتال که بر روی زیرساخت‌های عمومی دیجیتال ساخته شده‌اند، می‌توانند به عنوان کاتالیزوری برای توسعه فراگیر اقتصاد دیجیتال و تضمین حقوق و رفاه شهروندان عمل کنند. باید از طریق سیاست‌های داخلی و بانک‌های توسعه چندجانبه، شکاف‌های موجود در توانایی‌ها و زیرساخت‌ها را برطرف کرد تا کاربرد و توسعه هوش مصنوعی در کشورهای بازارهای نوظهور و در حال توسعه پیشرفت کند.

[SKIPPED]هوش مصنوعی پیشگام توسعه پایدار مشارکتی است.ما متعهد به حمایت از کاربردهای هوش مصنوعی از طریق روش‌هایی مانند منبع باز هستیم تا چالش‌های کلیدی توسعه در حوزه‌هایی مانند بهداشت و درمان، آموزش، امنیت، حمل و نقل، انرژی، کشاورزی، محیط زیست، مدیریت آب و پسماند را برطرف کنیم. این تلاش‌ها باید مطابق با قوانین و اولویت‌های ملی هر کشور باشد. باید مزایای هوش مصنوعی برای توسعه پایدار به طور مستمر ترویج شود. ما بر پرورش و توانمندسازی ابتکارات تحقیق، توسعه و نوآوری که ظرفیت‌ها و آرمان‌های فناوری بومی را تقویت می‌کنند، تمرکز خواهیم کرد تا شکاف فناوری بین کشورهای توسعه‌یافته و در حال توسعه را کاهش دهیم.

[SKIPPED]پایداری محیط زیستی پیش‌نیاز توسعه هوش مصنوعی است.هوش مصنوعی باید به کاهش انتشار گازهای گلخانه‌ای، سازگاری با تغییرات آب و هوایی، حفاظت از محیط زیست، مدیریت پایدار منابع و بهینه‌سازی آن‌ها، حفظ تعادل اکولوژیکی و توسعه پایدار اقتصادی و اجتماعی کمک کند و با اولویت‌های ملی کشورها هماهنگ باشد. توسعه و استقرار هوش مصنوعی باید پایدار باشد و تأثیرات زیست‌محیطی آن به حداقل برسد، از جمله مقابله با انتشار گازهای گلخانه‌ای، مصرف انرژی و آب، استفاده از مواد و مدیریت پسماندهای الکترونیکی. کشورهای در حال توسعه باید از فرصت‌های انتقال به اقتصاد کم‌کربن استفاده کنند و از طریق پیشرفت‌های فناوری در حوزه هوش مصنوعی، پیشگام توسعه باشند.

[SKIPPED]هوش مصنوعی باید کار شایسته را تضمین و بهره‌وری را افزایش دهد.سیستم‌های هوش مصنوعی پتانسیل افزایش بهره‌وری، تحریک نوآوری و ایجاد فرصت‌های شغلی را دارند، اما در عین حال چالش‌ها، نگرانی‌ها و ریسک‌هایی را برای محیط کار، شدت کار و جایگزینی مشاغل به همراه دارند که تهدیدی برای اشتغال و کرامت کارگران محسوب می‌شوند. با رشد سریع پلتفرم‌های دیجیتال و تأثیرات ساختاری هوش مصنوعی تولیدی بر بازار کار، باید حقوق و رفاه همه کارگران، به ویژه گروه‌هایی که مستقیماً تحت تأثیر تحول دیجیتال قرار می‌گیرند، تضمین شود. در طراحی، استقرار و استفاده از هوش مصنوعی باید انطباق‌پذیری و سازگاری نیروی کار در نظر گرفته شود و از مزایای فناوری‌هایی مانند هوش مصنوعی برای ترویج کار شایسته و اشتغال کامل و مولد استفاده کرد.

[SKIPPED]هوش مصنوعی باید به ابزاری برای تحول در آموزش و یادگیری تبدیل شود.سیستم‌های هوش مصنوعی می‌توانند اطلاعات را سازماندهی کنند، تجربیات شخصی‌سازی شده ارائه دهند و توصیه‌هایی ارائه کنند. ما نگرانیم که وابستگی بیش از حد به این سیستم‌ها ممکن است بر شناخت انسان، فرآیندهای تصمیم‌گیری و توانایی مقابله با محیط‌های اطلاعاتی پیچیده تأثیر بگذارد. ما متعهد به ارتقای سواد دیجیتال به ویژه برای معلمان و دانش‌آموزان هستیم تا بتوانند محتوای تولید شده توسط هوش مصنوعی را به دقت ارزیابی کنند، سوگیری‌های ذاتی الگوریتم‌ها را درک کنند و آگاهی مستقل و تفکر انتقادی قوی را پرورش دهند.

[SKIPPED]چهارم: هوش مصنوعی اخلاقی، قابل اعتماد و مسئول برای منافع همه

[SKIPPED]هوش مصنوعی باید فراگیر باشد.ما درک می‌کنیم که در مجموعه داده‌ها و مدل‌های هوش مصنوعی، کمبود دانش، میراث فرهنگی و ارزش‌های فرهنگی خطر سوءاستفاده و تحریف را به همراه دارد. ما بر اهمیت ساخت چارچوب‌های اخلاقی، شفاف و مسئول مانند «توصیه‌نامه اخلاقی هوش مصنوعی» یونسکو تأکید می‌کنیم. توسعه و تحقیق سیستم‌های هوش مصنوعی باید به طور کامل تنوع زبانی، فرهنگی، نژادی، جغرافیایی و جمعیتی کشورها را尊重 کند. ما باید همکاری‌های بین‌المللی برای آموزش مجموعه داده‌های باکیفیت، چندزبانه و فراگیر و پرورش استعدادهای محلی هوش مصنوعی انجام دهیم.

[SKIPPED]باید بر کاهش سوگیری‌های تبعیض‌آمیز تمرکز کرد.ما به ابزارهای قدرتمند برای شناسایی و کاهش خطاها و سوگیری‌های منفی الگوریتمی نیاز داریم تا اطمینان حاصل شود که مکانیسم‌های حسابرسی مستقل برای حفظ عدالت وجود دارند و استانداردهای ارزیابی ریسک سوگیری تدوین شده‌اند تا از پدیده‌های تبعیض‌آمیز و طردکننده جلوگیری شود. سیستم‌های هوش مصنوعی که با داده‌های تبعیض‌آمیز آموزش داده می‌شوند، اغلب بیشترین تأثیر را بر زنان، اقلیت‌های قومی، افراد دارای معلولیت و گروه‌های آسیب‌پذیر مانند کودکان، نوجوانان و سالمندان می‌گذارند. ترویج همکاری‌های میان‌رشته‌ای بین افراد با پیشینه‌های مختلف برای تدوین استانداردها، افزایش قابلیت تفسیر عملکرد و خروجی مدل‌ها و توسعه راهبردهای حکمرانی عملی حیاتی است تا از سوگیری‌های منفی جلوگیری شود و توسعه مسئولانه و عادلانه سیستم‌های هوش مصنوعی حمایت گردد.

[SKIPPED]باید منافع عمومی را در اولویت قرار داد.ما با پایبندی به مفهوم انسان‌محور، روابط هماهنگ بین انسان و ماشین را ایجاد خواهیم کرد و همیشه هوش مصنوعی را به عنوان ابزاری قدرتمند برای ارتقای توانایی‌های انسانی در نظر می‌گیریم و کنترل و نظارت نهایی انسان بر هوش مصنوعی را تضمین می‌کنیم. ما ایجاد مکانیسم‌های نظارت انسانی، افزایش شفافیت تصمیم‌گیری هوش مصنوعی و توسعه سیستم‌های پاسخگویی مؤثر را به عنوان اولویت‌ها در نظر می‌گیریم تا توسعه و کاربرد فناوری به شیوه‌ای مسئولانه و ایمن پیش رود، ریسک‌های مرتبط کاهش یابد و حداکثر منافع اجتماعی حاصل شود.

[SKIPPED]باید بر پایه واقعیت‌ها پایدار ماند.محتوای جعلی تولید شده توسط هوش مصنوعی شامل متن، تصویر، صدا و ویدئو تهدیدی جدی برای صحت و یکپارچگی اطلاعات است و می‌تواند منجر به دستکاری افکار عمومی، بی‌ثباتی اجتماعی و تضعیف اعتماد به نهادهای عمومی شود. ما یک رویکرد حکمرانی چندبعدی برای ارتقای یکپارچگی اطلاعات، تقویت راهبردهای آموزش رسانه‌ای و کارهای ارتباطی محلی اتخاذ خواهیم کرد، از جمله توسعه ابزارهای سریع برای شناسایی اطلاعات نادرست و گمراه‌کننده، بهبود سواد دیجیتالی و تفکر انتقادی افراد برای تقویت توانایی تشخیص محتوای آنلاین، تدوین دستورالعمل‌ها و مقررات اخلاقی روشن و در عین حال حفاظت از حریم خصوصی و امنیت داده‌ها برای پاسخگویی به نیازهای توسعه و کاربرد هوش مصنوعی در حوزه انتشار اطلاعات.

[SKIPPED]سیستم‌های هوش مصنوعی باید ایمنی و اعتماد را حفظ کنند.ما درک می‌کنیم که نیاز به توسعه ایمن، اخلاقی، قابل اعتماد و مسئولانه هوش مصنوعی برای منافع همه انسان‌ها وجود دارد. کشورها باید در چارچوب سیاست‌ها و ملاحظات امنیتی ملی خود، همکاری کنند تا نوآوری و دسترسی به فناوری هوش مصنوعی را پیش ببرند و همزمان با ریسک‌های فوری و بلندمدت ناشی از این فناوری مقابله کنند. ما بر اهمیت همکاری برای مقابله و پیشگیری از ریسک‌های مرتبط با استفاده مخرب از فناوری هوش مصنوعی تأکید می‌کنیم. سیستم‌های هوش مصنوعی و سایر فناوری‌های اطلاعات و ارتباطات باید با دقت طراحی شوند تا بتوانند سوءاستفاده از فناوری مانند کلاهبرداری، حملات سایبری، جرائم اینترنتی یا دستکاری داده‌ها را به طور مؤثر شناسایی و جلوگیری کنند.

[SKIPPED]پنجم: راه پیش رو

[SKIPPED]هوش مصنوعی عمومی باید با احتیاط توسعه یابد.حیاتی است که تحقیقات هوش مصنوعی عمومی بر اساس دستورالعمل‌های اخلاقی و به شیوه‌ای مسئولانه و قابل اعتماد انجام شود تا به رشد اقتصادی کشورها، به ویژه اقتصادهای نوظهور و در حال توسعه کمک کند و با چالش‌های فوری توسعه اقتصادی و اجتماعی مقابله نماید. اگر تنها تعداد کمی از نهادها کنترل هوش مصنوعی عمومی را در دست داشته باشند، نابرابری تشدید شده و وابستگی‌های فناورانه جدیدی ایجاد می‌شود که چالش‌های جدی برای توسعه پایدار به همراه خواهد داشت.

[SKIPPED]به سوی هوش مصنوعی عادلانه و فراگیر.کشورهای بریکس اقدامات مشترک و مثبتی را برای ایجاد محیط دیجیتال عادلانه برای همه، تعیین دیدگاه‌های مشترک، تقویت همکاری‌های جهانی، پیشبرد گفت‌وگوهای حکمرانی جهانی هوش مصنوعی سازمان ملل و گروه علمی بین‌المللی هوش مصنوعی انجام خواهند داد تا اطمینان حاصل شود که کشورهای در حال توسعه به طور معنادار در این فرآیندها مشارکت و نقش دارند. ما نیروها را گرد هم خواهیم آورد تا اصول مشترک از جمله دستورالعمل‌های فوق را در سطح بین‌المللی ترویج کنیم. ما از مشارکت همه طرف‌ها، به ویژه کشورهای در حال توسعه، برای بهبود دستورالعمل‌ها استقبال می‌کنیم و با نگرشی باز به بهینه‌سازی مستمر این اصول ادامه خواهیم داد.