خبرگزاری آریا - پیشرفت عامل‌های هوش مصنوعی در حل مسائل علمی، نگرانی‌هایی درباره سبقت آن‌ها از پژوهشگران و حفاظت از یافته‌های منتشرنشده ایجاد کرده است؛ هرچند برخی متخصصان همچنان نقش دانشمندان را در طرح پرسش‌های علمی ضروری می‌دانند.
با پیشرفت مداوم توانایی عامل‌های هوش مصنوعی در انجام مستقل فعالیت‌های علمی، دانشمندان با پرسشی روبه‌رو شده‌اند که تا همین اواخر تقریبا غیرقابل‌تصور بود: آیا ممکن است یک ربات هوش مصنوعی زودتر از آن‌ها به کشف علمی برسد و دستاوردشان را از آن خود کند؟
دست‌کم دو بار در پنج هفته گذشته، پژوهشگران اعلام کرده‌اند که مدت طولانی روی یک پرسش علمی مشخص کار کرده‌اند، اما ناگهان متوجه شده‌اند شرکت‌های هوش مصنوعی پیش از آن‌ها به پاسخ رسیده‌اند یا نتایج خود را پیش از آنکه این پژوهشگران آماده انتشار یافته‌هایشان باشند، اعلام کرده‌اند. در واکنش به این اتفاقات، برخی پژوهشگران که نگران‌اند ابزارهای هوش مصنوعی آثار منتشر نشده آن‌ها را جمع‌آوری کنند و زودتر به نتایج مشابه برسند، استفاده از این ابزارها را محدود کرده‌اند.
بااین‌حال، برخی پژوهشگران هوش مصنوعی، هرچند نه همه آن‌ها، معتقدند عامل‌های هوش مصنوعی بیش از پیش قادر خواهند بود پیش از دانشمندان به نتایج علمی برسند.
جفری ایروینگ، دانشمند ارشد سازمان پژوهشی ایمنی هوش مصنوعی «رزولوشن» در برکلی کالیفرنیا، می‌گوید: پژوهشگران دستاوردهایشان را از دست خواهند داد، اما نه به این دلیل که نسخه‌ای از مقاله خود را بارگذاری کرده‌اند؛ بلکه به این دلیل که هوش‌های مصنوعی در حل مسائل بسیار توانمندند و این توانایی آن‌ها روزبه‌روز بیشتر خواهد شد.
یافته‌های بحث‌برانگیز
در روز هفتم سپتامبر، تریستان باک‌مستر، ریاضی‌دان دانشگاه نیویورک، در پیامی در فضای مجازی اعلام کرد که او و یکی از همکارانش در حل مسئله ناویه–استوکس پیشرفت کرده‌اند که مسئله‌ای دیرینه و حل نشده در حوزه دینامیک سیالات است.
بر اساس توضیحات باک‌مستر، او و لِوِنت آلپوگه، ریاضی‌دان شرکت هوش مصنوعی آنتروپیک در سان‌فرانسیسکو که همکاری‌اش با باک‌مستر یک پروژه شخصی بود، به مدت یک سال روی این مسئله کار کرده بودند.
باک‌مستر در پست هفتم سپتامبر خود، مقاله‌ای را نیز منتشر کرد که راه‌حل نسخه ساده‌تری از این مسئله را ارائه می‌داد. اما روز بعد، در هشتم سپتامبر، شرکت اوپن‌ای‌آی مستقر در سان‌فرانسیسکو اعلام کرد که عامل‌های هوش مصنوعی این شرکت موفق به حل این مسئله شده‌اند؛ هم‌زمانی‌ای که باک‌مستر علنا درباره آن ابراز تردید کرده است.
باک‌مستر این احتمال را مطرح کرد که اطلاعاتی که او و آلپوگه در یکی از ابزارهای اوپن‌ای‌آی بارگذاری کرده بودند، ممکن است برای آموزش مدل‌های این شرکت استفاده شده باشد.
اوپن‌ای‌آی این احتمال را رد کرد. این شرکت در بیانیه‌ای اعلام کرد که بررسی‌هایش نشان داده است پیام‌های متنی یا دستورهای باک‌مستر در دو ماه پیش از اعلام خبر در هشتم سپتامبر، به هیچ شکلی، از جمله از طریق آموزش مدل، نمی‌توانسته‌اند بر عملکرد سامانه تأثیر بگذارند.
در این بیانیه همچنین آمده است که پژوهشگران و عامل‌های اوپن‌ای‌آی تا پیش از انتشار عمومی، به هیچ طریقی به آثار باک‌مستر و آلپوگه دسترسی نداشته‌اند.
دو هفته بعد، آنتروپیک اعلام کرد عامل‌هایی که بر پایه مدل زبانی بزرگ کلود فعالیت می‌کنند، به این کشف رسیده‌اند که برخی ویروس‌ها دارای الگویی از قطعات تکرارشونده دی‌ان‌ای هستند که به الگوی مشاهده‌شده در سامانه‌های ویرایش ژن کریسپر شباهت دارد.
پس از انتشار این خبر، ماریو رودریگز مِستره، دانشجوی دکتری زیست‌شناسی محاسباتی در دانشگاه کپنهاگ، به روزنامه نیویورک‌تایمز گفت که چندین سال است همین الگوهای دی‌ان‌ای را بررسی می‌کند و در بسیاری از موارد از کلود کمک گرفته است، اما هنوز نتایج پژوهش خود را منتشر نکرده است.
مستره نیز این احتمال را مطرح کرد که اطلاعات بارگذاری‌شده از سوی گروه پژوهشی او در ابزارهای آنتروپیک، ممکن است در داده‌های آموزشی کلود گنجانده شده باشد.
آنتروپیک در پاسخ به نیویورک‌تایمز اعلام کرد که مدل این شرکت با هیچ‌یک از متن‌های گفت‌وگوی کاربران آموزش داده نشده است.
بی‌اعتمادی به هوش مصنوعی
با وجود این اطمینان‌بخشی‌ها، برخی دانشمندان اکنون در حال بازنگری در شیوه استفاده خود از هوش مصنوعی هستند.
ساندرا لورنتینو، متخصص اپی‌ژنتیک تولیدمثل در دانشگاه مونستر آلمان، می‌گوید دیگر به سامانه‌های هوش مصنوعی اعتماد ندارد.
او اکنون تنها برای بررسی علت خطاهای کدنویسی خود از هوش مصنوعی استفاده می‌کند. حتی پیش از انجام این کار، نام تمام پارامترها و متغیرها را به برچسب‌های عمومی تغییر می‌دهد؛ برای مثال، آن‌ها را به عباراتی مانند گروه الف دارای ویژگی ایکس است، تبدیل می‌کند تا اطلاعات مربوط به آزمایش‌هایش در اختیار سامانه قرار نگیرد. او می‌گوید: در استفاده از هوش مصنوعی بسیار محتاطم، اما جنجال‌های اخیر باعث شده‌اند حتی بدبین‌تر و محتاط‌تر شوم.
این کشفیات هوش مصنوعی همچنین باعث شده‌اند ساموئل مِر، دانشمند حوزه شناخت شنوایی در دانشگاه اوکلند نیوزیلند، بیش از گذشته در استفاده از مدل‌های تجاری هوش مصنوعی تردید کند.
او برای آزمایشگاه خود دستورالعملی درباره استفاده از هوش مصنوعی تدوین کرده است که بر اساس آن، دانشجویان اجازه ندارند اطلاعات حفاظت شده را در اختیار مدل‌های زبانی بزرگ تجاری قرار دهند. این دستورالعمل همچنین درباره استفاده از این مدل‌ها در هر یک از مراحل فرایند پژوهش هشدار می‌دهد.
مر می‌گوید: به نظرم سپردن مالکیت فکری خود به اشخاص ثالث، در شرایطی که نمی‌دانید قرار است با آن چه کنند، فوق‌العاده خطرناک است.
بسیاری از مدل‌های زبانی بزرگ به کاربران اجازه می‌دهند استفاده از داده‌هایشان برای آموزش مدل‌ها را غیرفعال کنند. بااین‌حال، دیوید کروگر، پژوهشگر هوش مصنوعی که با هدف آگاه‌سازی مردم درباره خطرات هوش مصنوعی فعالیت می‌کند، می‌گوید حتی انصراف از مشارکت در آموزش مدل یا کنار گذاشتن کامل این سامانه‌ها نیز ممکن است برای حفاظت از اطلاعات دانشمندان کافی نباشد.
برخی پژوهشگران همچنین تردید دارند که گزینه «انصراف از استفاده از داده‌ها» واقعا بتواند از اطلاعات آن‌ها محافظت کند.
مر می‌گوید: فکر نمی‌کنم بتوانم به شرکت‌های هوش مصنوعی اعتماد کنم. او به سابقه آنتروپیک در زمینه استفاده از داده‌ها اشاره می‌کند؛ از جمله توافقی که در سال 2025 حاصل شد و بر اساس آن، آنتروپیک پذیرفت برای حل و فصل ادعاهای مربوط به استفاده از کتاب‌های غیرقانونی تکثیر شده برای آموزش مدل‌هایش، یک میلیارد و 500 میلیون دلار پرداخت کند. البته این توافق به معنای پذیرش مسئولیت حقوقی از سوی شرکت نبود.
اوپن‌ای‌آی در بیانیه‌ای به مجله نیچر اعلام کرد که غیرفعال کردن گزینه‌ای با عنوان «بهبود مدل برای همه» مانع از استفاده از گفت‌وگوهای جدید کاربران برای بهبود مدل‌ها می‌شود.
با غیرفعال کردن این گزینه در چت‌جی‌پی‌تی، این تنظیم در کدکس، ابزار مهندسی نرم‌افزار اوپن‌ای‌آی نیز غیرفعال خواهد شد. آنتروپیک به پرسش‌های نیچر درباره تنظیمات مربوط به انصراف از استفاده از داده‌ها پاسخ نداد.
نشانه‌های هشداردهنده
جفری ایروینگ معتقد است فارغ از اینکه عامل‌های هوش مصنوعی در پژوهش‌های خود از داده‌های منتشرنشده دانشمندان استفاده می‌کنند یا نه، این نخستین کشفیات منتسب به هوش مصنوعی از آینده‌ای نگران‌کننده خبر می‌دهند.
به گفته او، توانایی استدلال عامل‌های هوش مصنوعی همچنان افزایش خواهد یافت و حتی اگر این سامانه‌ها هرگز به اطلاعات خصوصی پژوهشگران دسترسی پیدا نکنند، «اقیانوس دانش» تولید شده به دست دانشمندان در طول زمان، به تنهایی برای آن‌ها کافی خواهد بود تا بارها زودتر از پژوهشگران به مقصد برسند و به کشفیات علمی دست پیدا کنند.
بااین‌حال، همه متخصصان معتقد نیستند که این کشفیات به معنای نزدیک شدن به پایان دوران دانشمندان است. سارا هوکر، پژوهشگر هوش مصنوعی و از بنیان‌گذاران شرکت نوپای «اَداپشن» در سان‌فرانسیسکو که سامانه‌های هوش مصنوعی تطبیق‌پذیر می‌سازد، می‌گوید هوش مصنوعی شیوه کار دانشمندان را به طور اساسی تغییر خواهد داد، اما آن‌ها را از میدان خارج نخواهد کرد.
به گفته او، عامل‌های هوش مصنوعی هنوز در طرح پرسش‌هایی که برای پیشبرد اکتشافات علمی ضروری‌اند، عملکرد چندان خوبی ندارند. به همین دلیل، نقش دانشمندان در شکل دادن به فرضیه‌های غنی و ارزشمند همچنان حیاتی است.
هوکر می‌گوید عامل‌های هوش مصنوعی ابزاری هستند که به‌طور چشمگیری سرعت رسیدن پژوهشگران و دانشمندان به پاسخ را افزایش خواهند داد؛ البته پس از آنکه پرسش خود را مطرح کرده باشند.