نگرانی از نفوذ صنعت هوش مصنوعی در رشته فلسفه/ فیلسوفان! تضاد منافع خود را اعلام کنید

خبرگزاری ایسنا چهارشنبه 17 تیر 1405 - 05:09
با گسترش همکاری فیلسوفان با شرکت‌های پیشروی هوش مصنوعی، بیش از ۲۰۰ پژوهشگر و استاد دانشگاه در نامه‌ای سرگشاده خواستار آن شدند که مجلات فلسفه، نویسندگان را ملزم به افشای تعارض منافع کنند. امضاکنندگان هشدار می‌دهند که افزایش حمایت مالی صنعت می‌تواند بر اولویت‌های پژوهشی و استقلال این رشته تأثیر بگذارد.

به گزارش ایسنا، فلسفه سال‌ها سوژه‌ اصلی جوک‌هایی درباره‌ رشته‌های بوده که فارغ‌التحصیلان آن بیکار هستند. اما اکنون شاید فیلسوفان در نهایت برنده این ماجرا باشند؛ چراکه شرکت‌های پیشرو در حوزه هوش مصنوعی برای کمک گرفتن از آن‌ها در حل برخی از پیچیده‌ترین مسائل این فناوری، حقوق‌های چشمگیری پرداخت می‌کنند.

بسیاری از فیلسوفان از افزایش تقاضا برای تخصص خود که البته فراتر از هوش مصنوعی است، استقبال می‌کنند؛ زیرا صنعت به دنبال راهنمایی فلسفی در مورد مسائلی مثل تغییرات اقلیمی و اطلاعات نادرست است. با این حال برخی معتقدند که هنجارهای این رشته نتوانسته‌ با این سرعت پیش برود و خود را با شرایط جدید تطبیق دهد. به عنوان مثال، برخلاف اکثر رشته‌های علمی، مجلات فلسفی به ندرت از نویسندگان می‌خواهند که تضاد منافع احتمالی مانند روابط با صنعت را افشا کنند.

نشریه ساینس در گزارشی به یک نامه سرگشاده‌ای که اخیراً منتشر شده پرداخته است. این نامه سرگشاده از مجلات حوزه فلسفه می‌خواهد که افشای تعارض منافع را الزامی کنند. در این نامه که تاکنون بیش از ۲۰۰ امضاکننده از جمله چهره‌های برجسته‌ای مانند «نائومی اورِسکِس» از دانشگاه هاروارد داشته، آمده است که نویسندگان باید ملزم به گزارش هرگونه حمایت مالی از صنعت، قراردادهای استخدامی یا مشاوره‌ای با حقوق، سرمایه‌گذاری‌های شخصی و روابط شخصی با کارمندان شرکت‌های مرتبط شوند. نویسندگان این نامه استدلال می‌کنند که این اقدام برای «حفاظت از صداقت  و سلامت» تحقیقات فلسفی «در جهانی که به سرعت در حال تغییر است» ضروری است.

«کریگ کلندر»؛ فیلسوف علم در دانشگاه کالیفرنیا (UC) سن دیگو و رئیس انجمن فلسفه علم که یکی از تنظیم‌کنندگان این نامه سرگشاده است، می‌گوید: «ما از پزشکان، سیاستمداران و البته دانشمندان و پژوهشگران انتظار داریم که تعارض منافع خود را افشا کنند. چرا فیلسوفان نه؟»

«آنا الکساندرووا»، فیلسوف علم در دانشگاه کمبریج، اضافه می‌کند: «از نظر من، این موضوع کاملاً بدیهی است. واقعاً عجیب است که قبلاً چنین هنجارهایی برای شفافیت وجود نداشته است.»

فلسفه، به عنوان یکی از قدیمی‌ترین رشته‌های فکری بشری، به دلیل ماهیت مفهومی‌اش  از نظر تاریخی همواره با صنعت فاصله داشته است؛ اما این فاصله در حال از بین رفتن است. «کایلین اوکانر»، فیلسوف علم در دانشگاه کالیفرنیا ایروین که به همراه کلندر رهبری تهیه‌ این نامه سرگشاده را بر عهده داشته است، می‌گوید: «در ۵ سال گذشته، ارتباط به مراتب بیشتری میان صنعت و فلسفه ایجاد شده است.»

شرکت‌های پیشرو در حوزه هوش مصنوعی از جمله مشهودترین  عوامل این تغییر بوده‌اند. به عنوان مثال، شرکت آنتروپیک، تیم داخلی فیلسوفان خود را موظف به تدوین «اساسنامه» یا قانون اساسی ابزار «کلاود» کرده است؛ سندی ۷۸ صفحه‌ای که رفتار چت‌بات را تعیین می‌کند. با این حال، فراتر از استخدام مستقیم، فیلسوفان از طریق شبکه رو به رشدی از مشاوره، کمک هزینه پژوهشی و فرصت مطالعاتی نیز با صنعت همکاری می‌کنند.

این روابط اغلب برای هر دو طرف سودمند هستند. همکاری با صنعت به پژوهشگران امکان دسترسی به مجموعه داده‌های اختصاصی را فراهم می‌کند و همچنین فرصتی فراهم می‌کنند تا ببینند ایده‌هایی که در دانشگاه شکل گرفته‌اند، چگونه می‌توانند محصولات و سیاست‌های دنیای واقعی را شکل دهند. به علاوه این همکاری‌ها اغلب پژوهش‌هایی را شکل می‌دهند که نشریات با تأثیر بالاتر اغلب مشتاق به انتشار آن‌ها هستند.

با این حال؛ «اما اوکانر» می‌گوید که این روابط می‌توانند به یک سراشیبی لغزنده نیز تبدیل شوند. او خاطرنشان می‌کند که شرکت‌ها در نهایت به دنبال تولید محصول و کسب سود هستند و مشارکت با دانشگاهیان شناخته‌شده می‌تواند به این فعالیت‌ها اعتبار ببخشد، پدیده‌ای که او آن را «استفاده ابزاری از اعتبار علمی» می‌نامد.

حجم سرمایه‌گذاری صنعت حتی می‌تواند مسیر کلی پژوهش‌ها در یک حوزه را تغییر دهد. برای مثال، شرکت‌های دخانیات، در گذشته به طرز بدنامی تحقیقات در مورد عوامل جایگزین سرطان ریه مانند «آزبست» را تأمین مالی کردند؛ این اقدام بدون اینکه لزوماً نتایج مطالعات پژوهشگران را تغییر دهند، مجموعه شواهد را  ضعیف کردند. اوکانر می‌گوید: «آن‌ها به کسی پول نمی‌دهند که بگویند، «خب، یک مطالعه تقلبی انجام دهید. بلکه به آن‌ها پول می‌دهند و می‌گویند، «شما فردی هستید که روی فلان موضوع کار می‌کنید. این یک موضوع عالی است که ما می‌خواهیم افراد بیشتری روی آن کار کنند و ما به شما بودجه می‌دهیم تا به کار روی آن موضوع ادامه دهید، کنفرانس داشته باشید، دانشجویان بیشتری داشته باشید، مقالات بیشتری منتشر کنید.»

نویسندگان این نامه سرگشاده معتقدند که این روند مشابه می‌تواند در فلسفه نیز شکل بگیرد. برای مثال، یک شرکت شبکه اجتماعی ممکن است از کارهایی حمایت مالی کند که توجه را از اطلاعات نادرست به این پرسش معطوف کند که آیا نظارت بر محتوا ناقض آزادی بیان است یا خیر. شرکت‌های سوخت فسیلی ممکن است از بحث‌های فلسفی در مورد «اعتبارهای کربنی» حمایت کنند و توجه را از تلاش‌ها برای پایان دادن به استفاده از سوخت‌های فسیلی منحرف کنند. (اعتبار کربنی یک ابزار اقتصادی برای کاهش انتشار گازهای گلخانه‌ای است و هر اعتبار کربنی معادل مجوز انتشار یک تن دی اکسید کربن است.)

مل اندروز، محقق پسادکترای فلسفه علم و فناوری در دانشگاه پرینستون معتقد است موج سرمایه‌گذاری شرکت‌های حوزه هوش مصنوعی، از هم‌اکنون نیز باعث شده توجه پژوهشگران به پرسش‌هایی جلب شود که توسعه‌دهندگان هوش مصنوعی علاقه‌مند به مطرح شدن آنها هستند؛ پرسش‌هایی مانند این‌که آیا هوش مصنوعی می‌تواند آگاهی داشته باشد؟ یا اینکه آیا یک چت‌بات باید دارای حقوق باشد؟ از نظر اندروز،  صنعت «به‌وضوح، در حال طرح پرسش‌هایی غیرواقع‌بینانه و حتی غیرفلسفی است» که ممکن است با نزدیک‌تر نشان دادن هوش مصنوعی امروزی به چیزی که به اصطلاح «ابرهوش» نامیده می‌شود، نسبت به آنچه که در واقع هستند، منافع تجاری شرکت‌ها را تامین کند و در عین حال توجه را از سوالات مهم‌تر در مورد تأثیرات اجتماعی آن منحرف می‌کند.

الکساندرووا می‌گوید ممکن است برخی از فیلسوفان به سختی بپذیرند که حوزه‌ تخصصی آن‌ها نیز می‌تواند تحت تأثیر منافع مالی قرار گیرد. فیلسوفان مدت‌هاست که آنچه را که او دیدگاه «استثناگرایانه» در مورد رشته‌ خود می‌نامد، پذیرفته‌اند؛ این تصور که برخلاف علوم، فلسفه رشته‌ای «خالص» است و از نیروهای اجتماعی اثرگذار بر پژوهش‌های دیگر مصون مانده است.

اما حفظ این دیدگاه با دشوارتر شدن تامین مالی پژوهش و تداوم مشکلات بازار کار دانشگاهی، سخت‌تر شده است. اندروز می‌گوید: «ما تا حدی مسائل پژوهشی را بر اساس علاقه فلسفی خود انتخاب می‌کنیم، اما تا حدودی نیز به این فکر می‌کنیم که چه موضوعی مد روز است و از کجا می‌توان برای آن‌ها بودجه گرفت». به گفته نویسندگان این نامه همین موضوع ضرورت این اقدام را دوچندان می‌کند.

از آنجا که گزارش تضاد منافع برای بسیاری از فیلسوفان ناآشنا است، این نامه پیشنهاد می‌کند که مجلات یک چک لیست استاندارد به نویسندگان ارائه دهند که در مورد بودجه، اشتغال، همکاری‌ها و سایر روابط مرتبط را تکمیل کنند سپس این افشاگری‌ها را در کنار مقالات منتشر کنند. همچنین از مجلات می‌خواهد که افشاگری‌ها را به کارهای منتشر شده قبلی اضافه کنند و سیاست‌هایی را برای عدم افشای اطلاعات، از جمله اصلاحات یا سلب مسئولیت در صورت لزوم، تعیین کنند.

«متیو لیائو»، متخصص اخلاق زیستی در دانشگاه نیویورک که این نامه را امضا کرده است، می‌گوید که هدف این اقدام نام بردن و رسوا کردن افراد نیست، بلکه راهی برای تقویت هنجارهای دانشگاهی است. او می‌گوید: «در دانشگاه، ما به آنچه واقعاً حقیقت دارد، اهمیت می‌دهیم و نمی‌خواهیم که به دلیل روابط مالی، مبهم یا جانبدارانه دچار سوگیری شود. افشا به این معنی نیست که فرد کار اشتباهی انجام داده‌ است.»

حامیان این طرح اذعان دارند که اجرای آن ممکن است ساده نباشد. یکی از نگرانی‌ها این است که افشای اطلاعات، مانعی برای سنت دیرینه‌ داوری «سه‌گانه ناشناس» مجلات فلسفی تداخل پیدا کند. روشی که در آن نویسندگان، داوران و سردبیران مجلات همگی برای یکدیگر ناشناس باقی می‌مانند. برخی دیگر معتقدند که این افشاگری‌ها باید فراتر از مجلات، به کنفرانس‌ها، انجمن‌های حرفه‌ای و دپارتمان‌های دانشگاه نیز گسترش یابد و اصلاحات آینده باید تاثیر منابع مالی از سوی بنیادهای خیریه‌های خصوصی را نیز بررسی کند؛ زیرا نفوذ آن‌ها می‌تواند مشابه تأثیر صنعت باشد.

به اعتقاد کلندر، این نامه تنها آغاز راه پیش است. کلندر می‌گوید: «فلسفه باید به عنوان یک رشته علمی رشد کند. وقت آن رسیده که در مورد افشای اطلاعات مربوط به صنعت، کمی نگاه زیرکانه‌تر و امروزی‌تر داشته باشیم.»

انتهای پیام

منبع خبر "خبرگزاری ایسنا" است و موتور جستجوگر خبر تیترآنلاین در قبال محتوای آن هیچ مسئولیتی ندارد. (ادامه)
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت تیترآنلاین مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویری است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هرگونه محتوای خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.