همه چیز درباره ی محدودیت های هوش مصنوعی از درک ناقص زمینه تا تولید اطلاعات ناصحیح
به گزارش بست روید، هوش مصنوعی می تواند در آموزش، پزشکی، برنامه نویسی، تولید محتوا و تجارت به انسان کمک کند؛ اما بی خطا یا همه توان نیست. کیفیت داده ها، احتمال تولید پاسخ نادرست، سوگیری، دشواری توضیح برخی تصمیم ها و هزینه های محاسباتی همچون محدودیت هایی هستند که باید هنگام استفاده از این تکنولوژی درنظر گرفت.
به گزارش بست روید به نقل از خبر آنلاین، ابزارهای هوش مصنوعی می توانند حجم زیادی از اطلاعات را در زمانی کوتاه پردازش کنند و الگوهایی را بیابند که بررسی آنها برای انسان دشوار است. بااین حال، توانایی پردازش داده ها به معنای درک کامل جهان، شناخت تجربه های انسانی یا درست بودن همیشگی پاسخ ها نیست.
شناخت محدودیت های هوش مصنوعی کمک می نماید بدانیم چه زمانی میتوان از آن کمک گرفت، چه زمانی باید پاسخ هایش را بررسی کرد و در چه موقعیت هایی تصمیم گیری غائی را نمی توان به سیستم سپرد.
۱. درک زمینه و مفاهیم انسانی
دل های هوش مصنوعی می توانند زبان انسان را پردازش کنند و پاسخ هایی روان و شبیه گفت و گوی طبیعی عرضه دهند؛ اما این قابلیت با درک انسانی یکسان نیست. یک مدل امکان دارد درباره ی غم، ترس یا گرسنگی توضیحی دقیق بدهد، اما این به معنای تجربه کردن این احساسات نیست.
تشخیص کنایه، طنز، اصطلاحات محلی و زمینه فرهنگی نیز گاهی برای سیستم ها دشوار است. بعنوان مثال، جمله «عالی شد! دقیقاً همین را کم داشتم!» امکان دارد در یک موقعیت به معنای رضایت باشد و در موقعیتی دیگر نشان دهنده ناراحتی یا طعنه. اگر سیستم زمینه گفت و گو را درست تشخیص ندهد، امکان دارد منظور گوینده را برعکس برداشت کند.
این محدودیت در موقعیت هایی مهم تر می شود که فهم نیت افراد یا شرایط اجتماعی برای تصمیم گیری ضروریست.
۲. وابستگی به کیفیت داده ها
ملکرد هوش مصنوعی تا حد زیادی به داده هایی وابسته است که با آنها آموزش دیده یا در زمان استفاده دریافت می کند. اگر این داده ها ناقص، قدیمی، ناصحیح یا نامتوازن باشند، خروجی سیستم نیز امکان دارد مشکل داشته باشد.
مدلی که برمبنای نمونه های گذشته آموزش دیده، امکان دارد در شرایط تازه یا متفاوت عملکرد ضعیف تری نشان دهد. بطور مثال، الگویی که در یک کشور یا گروه اجتماعی کارآمد بوده، لزوماً برای جامعه ای دیگر مناسب نمی باشد.
به همین دلیل، بررسی کیفیت داده ها، آزمودن عملکرد سیستم در موقعیت های مختلف و نظارت انسانی می تواند به کاهش خطا کمک نماید.
۳. سوگیری الگوریتمی
گر داده های آموزشی بازتاب دهنده تبعیض ها یا نابرابری های موجود باشند، سیستم امکان دارد همان الگوها را بازتولید کند. این مسئله را سوگیری الگوریتمی می نامند.
برای مثال، اگر یک سیستم استخدام با داده های تاریخی نامتوازن آموزش ببیند، امکان دارد در ارزیابی رزومه ها به صورت نامناسب برخی گروه ها را در اولویت قرار دهد. چنین نتیجه ای لزوماً به این معنا نیست که سیستم عمداً تبعیض می کند؛ اما نشان داده است انتخاب و کیفیت داده ها می تواند بر خروجی اثر بگذارد.
بررسی داده ها، سنجش نتایج برای گروههای مختلف و امکان بازنگری انسانی از روشهایی هستند که می توانند احتمال چنین خطاهایی را کاهش دهند.
۴. تولید اطلاعات نادرست
دل های زبانی گاهی پاسخی تولید می کنند که از نظر نگارشی منسجم و قانع کننده است، اما از نظر واقعی ناصحیح است. این خطا امکان دارد بشکل آمار اشتباه، نقل قول نادقیق، منبع ناموجود یا توضیح علمی ناصحیح دیده شود.
روان بودن یک پاسخ به تنهایی نشانه درستی آن نیست. اگر مقرر است از خروجی هوش مصنوعی در گزارش خبری، پژوهش، کار تخصصی یا تصمیم مهم استفاده شود، باید ادعاهای اصلی با منابع معتبر و مستقل راستی آزمایی شوند.
۵. محدودیت در خلاقیت
بزارهای هوش مصنوعی می توانند شعر، داستان، تصویر، موسیقی و طرح های گرافیکی تولید کنند. این قابلیت در خیلی از کارها مفید می باشد، اما تولید یک خروجی تازه با تجربه انسانی از خلاقیت یکسان نیست. سیستم برمبنای الگوهایی که آموخته، محتوایی تازه می سازد؛ اما این به تنهایی نشانه تجربه زیسته، قصد هنری یا درک شخصی نیست.
ارزیابی خلاقیت نیز به معیارهایی مانند اصالت، کیفیت، کاربرد و میزان دخالت انسان بستگی دارد. بنابراین، بهتر است نقش هوش مصنوعی در تولید اثر و سهم انسان در انتخاب، ویرایش و جهت دهی به آن روشن باشد.
۶. هزینه محاسباتی و مصرف منابع
موزش و اجرای برخی مدلهای بزرگ به پردازنده های قدرتمند، حافظه محاسباتی و زیرساخت های گسترده نیاز دارد. مراکز داده نیز برای فعالیت خود برق و سامانه های خنک کننده مصرف می کنند. میزان مصرف به عواملی مانند اندازه مدل، نوع سخت افزار و تعداد درخواست ها بستگی دارد.
بهینه سازی مدلها، استفاده از سخت افزارهای کارآمدتر و مدیریت بهتر زیرساخت ها می تواند قسمتی از هزینه ها و آثار محیط زیست را کم کند. همه مدلها به منابع یکسان نیاز ندارند و مصرف آنها را باید باتوجه به نوع و شیوه استفاده بررسی کرد.
۷. دشواری توضیح برخی تصمیم ها
برخی سامانه های پیچیده را دشوار میتوان توضیح داد؛ یعنی امکان دارد روشن نباشد چرا یک ورودی به نتیجه مشخصی منجر شده است. به چنین سیستمهایی گاهی «جعبه سیاه» گفته می شود.
این مسئله در کاربردهای حساس اهمیت زیادی دارد. فرض کنید سیستم ای درخواست وام فردی را رد کند، اما نهاد استفاده کننده نتواند دلیل تصمیم را بررسی یا توضیح دهد. در چنین شرایطی، تشخیص خطا و اعتراض به نتیجه دشوار می شود.
البته همه سامانه های هوش مصنوعی به یک اندازه غیرقابل توضیح نیستند. میزان شفافیت به نوع مدل، نحوه طراحی و ابزارهای ارزیابی بستگی دارد. مؤسسه ملی استاندارد و فناوری آمریکا (NIST) نیز در چهارچوب مدیریت ریسک هوش مصنوعی، خاصیت هایی مانند قابلیت اطمینان، شفافیت، توضیح پذیری و مدیریت سوگیری را از موضوعات مهم می داند.
۸. محدودیت در تصمیم گیری اخلاقی و مسئولیت پذیری
هوش مصنوعی می تواند برمبنای قواعد و الگوهای آموخته شده، گزینه ها را ارزیابی کند؛ اما مسئولیت استفاده از نتیجه آن بازهم بر عهده انسان ها و نهادهای مرتبط می باشد.
اگر سیستم ای در استخدام، اختصاص منابع یا عرضه خدمات تصمیمی ناصحیح یا تبعیض آمیز بگیرد، باید روشن باشد چه کسانی مسئول طراحی، نظارت و استفاده از آن بوده اند. در کاربردهای حساس، ثبت پروسه تصمیم گیری، امکان اعتراض و نظارت انسانی اهمیت ویژه ای دارد.
۹. اطلاعات قدیمی یا ناقص
اگر یک مدل به منابع به روز دسترسی نداشته باشد، امکان دارد درباره ی رویدادهای تازه، آمار جدید یا تغییرات قانونی اطلاعات ناقص ارائه نماید. حتی اتصال به منابع اینترنتی نیز به تنهایی درستی اطلاعات را تضمین نمی کند؛ منابع باید از نظر اعتبار و تاریخ انتشار بررسی شوند.
برای مباحثی که به سرعت تغییر می کنند، مانند قوانین، اخبار و اطلاعات پزشکی، مراجعه به منابع رسمی و به روز ضروریست.
چگونه از محدودیت های هوش مصنوعی آگاهانه تر استفاده کنیم؟
راهکار مناسب، اعتماد کامل به خروجی هوش مصنوعی یا کنارگذاشتن کامل آن نیست. میتوان با رعایت چند نکته، احتمال خطا و سوءاستفاده را کاهش داد:
پاسخ های در ارتباط با سلامت، قانون، امور مالی و تصمیم های مهم را با منابع معتبر بررسی کنید. از هوش مصنوعی بعنوان ابزار کمکی استفاده کنید، نه مرجع غائی در تصمیم های حساس. در صورت امکان، درباره ی داده های مورد استفاده و شیوه تصمیم گیری سیستم پرس وجو کنید. خروجی را متناسب با کاربرد آن ارزیابی کنید؛ خطای یک پیشنهاد سرگرمی با خطای یک ارزیابی استخدامی پیامد یکسانی ندارد. در کاربردهای حساس، امکان نظارت انسانی و اعتراض به تصمیم را درنظر بگیرید. جمع بندی
هوش مصنوعی ابزاری قدرتمند برای پردازش اطلاعات، تولید محتوا و پشتیبانی از تصمیم گیری است؛ اما امکان دارد زمینه را اشتباه بفهمد، اطلاعات ناصحیح تولید نماید یا از داده های نامتوازن نتیجه ای سوگیرانه بگیرد. هزینه محاسباتی و دشواری توضیح برخی تصمیم ها نیز از دیگر چالش های این فناوری است.
شناخت این محدودیت ها به معنای بی فایده دانستن هوش مصنوعی نیست. استفاده مؤثر از آن به ارزیابی متناسب با میزان خطر، بررسی پاسخ های مهم و مشخص بودن مسئولیت انسان ها و سازمان های استفاده کننده نیاز دارد. هوش مصنوعی می تواند در خیلی از کارها کمک کننده باشد، اما در تصمیم های مهم، نظارت و قضاوت انسانی بازهم اهمیت دارد.
57
منبع: bestroid.ir
این مطلب بست روید چطور بود؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات کاربران در مورد این مطلب بست روید
لطفا شما هم در مورد این مطلب نظر دهید