آیا ربات های گفتگوگر می توانند جایگزین نویسندگان ویكی پدیا شوند
بنیان گذار ویکی پدیا درحال بررسی استفاده از ChatGPT
به گزارش ما دیجیتال، آیا ربات های گفتگوگر هوش مصنوعی می توانند جایگزین نویسندگان ویکی پدیا شوند و محتوای معتبری برای آن تولید کنند؟ جیمی ولز یکی از بنیان گذاران ویکی پدیا امیدوار است که ربات های هوش مصنوعی بتوانند به رفع شکاف های اطلاعاتی موجود در این بزرگترین دایره المعارف تاریخ بشر کمک کنند.
به گزارش ما دیجیتال به نقل از ایسنا، مدل های زبانی که توسط هوش مصنوعی طراحی شده اند و سرآمد آنان مدل هوش مصنوعی ChatGPT است، اخیرا حوزه فناوری را متحول کرده اند.
این شاهکار تولیدی شرکت توسعه هوش مصنوعی OpenAI منجر به تلاش رهبران بازار مانند گوگل و مایکروسافت برای انتشار نسخه های چت بات های خود برای کاربران و سرمایه گذاری های چند میلیارد دلاری شده است.
چنین برنامه هایی، هوش مصنوعی را برای توده مردم در انجام کارهای روزانه مانند نوشتن، ترجمه، کدنویسی و موارد دیگر، همه از راه تعاملات مبتنی بر پرسش و پاسخ در دسترس قرار داده اند.
حالا جیمی ولز(Jimmy Wales) یکی از بنیان گذاران ویکی پدیا، آینده ای را متصور است که در آن اپلیکیشن هایی مانند ChatGPT می توانند جایگزین نویسندگان برای تولید محتوای مکتوب آنلاین به صورت انبوه و در دسترس شوند.
رواج دیوانه وار چت جی پی تی برخلاف اشتباهات مکرر و جدی آن، بنیان گذار ویکی پدیا را وادار کرده است که به شکل جدی به این فکر کند که چگونه هوش مصنوعی می تواند بخشی از جریان کار در بزرگترین و پرخواننده ترین مرجع دایره المعارف در تاریخ بشریت را بر عهده بگیرد.
وی در یک مصاحبه بعضی از چالش های ذاتی این فناوری بخصوص تمایل آن به «توهم» یا از خود درآوردن مطالب را مورد بررسی قرار داده و بینش خویش را در مورد چگونگی تکامل بزرگترین مخزن آنلاین اطلاعات جهان در آینده بیان کرده است.
وی می گوید: ما می دانیم مدلهای موجود به اندازه کافی خوب نیستند، اما جالب هستند، چونکه به نظر می آید در این عرصه پتانسیل زیادی وجود دارد.
ولز افزود، یکی از موارد استفاده اولیه از هوش مصنوعی می تواند استفاده از یک مدل زبان بزرگ(LLM) مانند GPT برای مقایسه چندین مقاله، جستجوی نکاتی که با یکدیگر متناقض هستند و استفاده از یافته های آن برای شناسایی مطالبی باشد که داوطلبان انسانی ویکی پدیا امکان دارد به آن نیاز داشته باشند.
وی می افزاید، یکی از سناریوهای ممکن اینست که هوش مصنوعی تمام شکاف های موجود در ویکی پدیا را جستجو کند و بیابد، صفحات بالقوه مفیدی ایجاد نماید که هیچگاه نوشته نشده اند و برای ایجاد خلاصه مطالب تلاش کند.
بینانگذار ویکی پدیا افزود: من فکر می کنم ما هنوز بسیاری از این دور هستیم که به ChatGPT بگوییم لطفاً یک معرفی در ویکی پدیا در مورد ساختمان امپایر استیت بنویس. هم اکنون نمی دانم دقیقاً چقدر با آن فاصله داریم، اما مطمئناً از آنچه که دو سال پیش فکر می کردم به آن نزدیک تر هستیم.
بسیاری از ایرادات در سیستم موجود سبب می شود که کمتر قابل اعتماد باشد.
تیم ویکی پدیا در مورد عملکرد «توهم آمیز» این چت بات های هوش مصنوعی و پاسخ های آن ابراز نگرانی کرده اند. آنها می گویند چت بات ها تمایل دارند که چیزهایی از خود در بیاورند که برای ویکی پدیا واقعاً بد است. این درست نیست. ما باید واقعاً مراقب این مورد باشیم.
ولز همینطور نگران ناتوانی این فناوری در شناسایی یا تشخیص تناقضات درونی در پاسخ های آن است.
وی می گوید، حتی اگر آزادی کامل برای سیستم های هوش مصنوعی برای تولید اطلاعات هم اکنون غیر ممکن است، تیم ما درحال بررسی این مورد است که چگونه این فناوری می تواند محتوا را با دایره المعارف بهبود بخشد.
ولز می گوید: اگر LLMها آغاز به نوشتن یک مخزن دانش مرکزی مانند ویکی پدیا کنند، توهمات یا دروغ هایی که بلافاصله کشف نمی شوند مانند یک گلوله برفی ایجاد می شوند و مردم از آن مطالب غیرواقعی در نوشته های خود استفاده می نمایند و هوش مصنوعی های بعدی با این غیرواقعیت ها آموزش می بینند که تصحیح آنها را در بلند مدت دشوار می کند.
سیستم های مجهز به هوش مصنوعی می توانند با تحلیل و بررسی اطلاعات موجود، سوگیری های ذاتی را حل و فصل کنند.
ویکی پدیا(Wikipedia) مؤسسه ای است که توسط نویسندگان داوطلب به تعداد میلیونها نفر اداره می شود. این دایره المعارف همواره به علت وجود سوگیری و تعصب در توضیحات و پوشش موضوعات مختلف مورد انتقاد قرار می گیرد که این مشکل با جمعیت مشارکت کنندگان آن که به طور عمده مرد و سفید پوست هستند، مرتبط دانسته می شود.
ولز نگران است که استفاده از LLMها برای توسعه منبع می تواند به مسائل در ارتباط با سوگیری سیستماتیک و ناخودآگاه ویکی پدیا کمک نماید یا آنرا تشدید کند. همانطور که گفته شد این منبع هم اکنون توسط داوطلبانی نوشته و حراست می شود که اکثریت قریب به اتفاق آنها مردان سفیدپوست هستند، ازاین رو تمایل دارد موضوع هایی را که مورد علاقه این گروه نیست، نادیده بگیرد و موضوعات دیگر را از منظر خاصی پوشش دهد.
بنیان گذار ویکی پدیا در مورد توانایی هوش مصنوعی در حل چنین مشکلی تردید دارد. وی می گوید: ما می دانیم که خیلی از کارهای هوش مصنوعی خیلی سریع با سوگیری مواجه می شوند، چونکه اگر هوش مصنوعی را بر روی داده های جانبدارانه آموزش دهید، آنگاه آن سوگیری را دنبال می کند.
وی ادامه داد: با این وجود، تیم ما خوش بین است که چنین سیستم هایی بتوانند پوشش خویش را با تحلیل و بررسی تمام اطلاعات آنلاین ممکن در مورد یک مبحث و بررسی متقابل آن با سایر ورودی ها گسترش دهند و در نتیجه شکاف ها را رفع کنند.
چنین تمرینی مقادیر زیادی اطلاعات تولید می کند، اما جیمی ولز نگران آن نیست، چون که به نقل از ایشان، استفاده از هوش مصنوعی برای سه برابر کردن تعداد ورودی های ویکی پدیا، هزینه های جاری موسسه را بیشتر از ۱۰۰۰ پوند در سال افزایش نمی دهد.
ChatGPT به صراحت بگونه ای طراحی شده است تا دیدگاهی متعادل در مورد موضوعات داشته باشد، اما مشکلات سوگیری خاص خویش را دارد که در داده های آموزشی آن نهفته است.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب