هوش مصنوعی خطاهای مقالات تحقیقاتی را شناسایی می کند
به گزارش سرگرمی کامپیوتری، اواخر سال میلادی گذشته، رسانه های سراسر دنیا اخطار دادند که ظروف پخت و پز پلاستیکی سیاه رنگ حاوی سطوح نگران کننده ای از مواد ضد حرارت در رابطه با سرطان هستند اما مشخص شد که این خطر بیش از اندازه بزرگنمایی شده است. یک خطای ریاضی در تحقیقات اساسی نشان داده بود که یک ماده شیمیایی مهم از حد مجاز فراتر رفته است در حالیکه در واقع میزان آن ده برابر کمتر از حد مجاز بود. محققان به سرعت نشان دادند که یک مدل هوش مصنوعی (AI) می تواند این خطا را در چند ثانیه تشخیص دهد.
به گزارش سرگرمی کامپیوتری به نقل از ایسنا، این حادثه موجب ایجاد دو پروژه شد که از هوش مصنوعی برای یافتن اشتباهات در مقالات علمی استفاده می نمایند. پروژه Black Spatula یک ابزار هوش مصنوعی منبع باز است که تا حالا حدود ۵۰۰ مقاله را برای یافتن خطاها تحلیل و بررسی کرده است. حاضران در این پروژه که حدود هشت توسعه دهنده فعال و صدها مشاور داوطلب هستند، هنوز خطاها را بصورت عمومی منتشر نکرده اند. خواکین گولوسو (Joaquin Gulloso)، محقق مستقل هوش مصنوعی مستقر در کارتاژنا، کلمبیا، که به هماهنگی پروژه کمک می نماید، می گوید بجای اعلام عمومی مستقیما با نویسندگان ارتباط می گیرد. گولوسو می گوید: الان، خطاهای زیادی پیدا کرده ایم. این یک لیست بزرگ است.
به نقل از نیچر، مت اشلیخت بنیانگذار (Matt Schlicht) و کارآفرین هوش مصنوعی یک پروژه دیگر که YesNoError نام دارد و از پروژه Black Spatula الهام گرفته شده است، را معرفی نمود.
این ابتکار که توسط ارز دیجیتال اختصاصی خود تامین مالی می شود، اهداف خودرا حتی بالاتر از این هم قرار داده است. او می گوید: فکر کردم، چرا ما مانند دیگران، اسناد را مرور نمی کنیم؟ ابزار هوش مصنوعی آنها بالاتر از ۳۷ هزار مقاله را در ضمن دو ماه تحلیل و بررسی کرده است. وب سایت آن مقاله هایی را که در آنها ایراداتی پیدا کرده است علامت گذاری می کند.
هر دو پروژه از پژوهشگران می خواهند که پیش از ارسال کار به مجله از ابزارهای آنها بهره گیرند و مجلات پیش از انتشار از آنها استفاده کنند، ایده این است که از اشتباهات و همین طور از تقلب جلوگیری شود.
این پروژه ها دارای پشتیبانی آزمایشی از طرف کارمندان دانشگاهی هستند. اما نگرانی هایی در مورد خطرات احتمالی نیز وجود دارد. میشل نویتن (Michèle Nuijten)، محقق فراعلم در دانشگاه تیلبورگ هلند، می گوید که معین نیست که این ابزارها تا چه اندازه می توانند اشتباهات را تشخیص دهند و آیا ادعاهای آنها تایید شده است یا خیر. او می گوید: اگر به مردم اتهامی بزنید و بعد معلوم شود که اشتباهی در کار نبوده است، ممکنست به شهرت آنها لطمه وارد شود.
برخی دیگر می گویند که بااینکه خطراتی وجود دارد و پروژه ها باید در مورد آن چه ادعا می کنند محتاط باشند، اما هدف درست است. جیمز هدرز (James Heathers)، متخصص پزشکی قانونی در دانشگاه لینائوس در وکسیو، سوئد، می گوید: در نخستین قدم، هوش مصنوعی می تواند برای ارزیابی مقالات جهت بررسی بیشتر مورد استفاده قرار گیرد. او می افزاید: من از این ابتکارات حمایت می کنم.
کارمندان هوش مصنوعی
خیلی از پژوهشگران حرفه خودرا وقف کشف نگرانی های مربوط به یکپارچگی در مقالات کرده اند و ابزارهایی جهت بررسی تعدادی از جنبه های مقاله هم اکنون وجود دارد. اما طرفداران امیدوارند که هوش مصنوعی بتواند طیف وسیع تری از بررسی ها را انجام دهد و حجم بیشتری از اوراق را مدیریت کند.
هر دو پروژه Black Spatula و YesNoError از مدلهای زبانی بزرگ (LLMs) برای شناسایی طیف وسیعی از خطاها در مقالات، همچون خطاهای واقعی و همین طور در محاسبات، روش شناسی و ارجاع استفاده می نمایند.
سیستم ها ابتدا اطلاعات شامل جداول و تصاویر را از مقالات استخراج می کنند. سپس مجموعه ای از دستورالعمل های پیچیده را ایجاد می کنند که به یک مدل «استدلالی» از مدل زبانی بزرگ می گوید که به چه چیزی نگاه می کند و چه نوع خطاهایی را باید دنبال کند. این مدل ممکنست یک مقاله را چندین بار تحلیل و بررسی کند، یا هر بار انواع مختلف خطا را اسکن کند یا نتایج را بررسی کند. هزینه تحلیل و بررسی هر مقاله بسته به طول آن متغیر است.
نرخ مثبت کاذب یعنی مواردی که هوش مصنوعی در آنها ادعا می کند خطا وجود ندارد، یک مانع بزرگ است. گولوسو می گوید هم اکنون، سیستم پروژه Black Spatula در حدود ۱۰ درصد از مواقع خطا دارد.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب