چت بات جدید مبتنی بر هوش مصنوعی که توسط OpenAI به نام ChatGPT منتشر شده، اینترنت را به آتش کشیده است. میلیون‌ها نفر از زمان راه اندازی این سرویس رایگان در همین مدت کوتاه ثبت نام کرده‌اند تا با توانایی‌های آینده هوش مصنوعی آشنا شده و با پاسخ‌های دقیق آن به سوالات فنی و حتی حل چالش‌های کدنویسی شگفت‌زده شوند.
این سرویس بر اساس آخرین نسخه از زبان بزرگ مدل GPT-3 OpenAI است که بر اساس مقادیر زیادی متن موجود در اینترنت آموزش داده شده است (GPT در اینجا مخفف Generative Pre-Trained Transformer است که نوع خاصی از شبکه یادگیری عمیق مبتنی بر آن را توصیف می کند.)
برای اینکه ChatGPT در گفتگوهای خود طبیعی‌تر باشد، با استفاده از بازخورد کاربرها، آموزش جدید دیده است. نتیجه، یک چت بات است که می‌تواند غزل بنویسد، موضوعات پیچیده فیزیک را توضیح دهد، برنامه‌نویسی دهد و حتی در تست هوش، نمره قابل قبولی بگیرد.
این موضوع منجر به بررسی‌ها و ادعاهایی شد که ChatGPT از مرگ موتور جستجوی گوگل یا طراحی دوباره سیستم آموزشی خبر می‌دهد. با این حال، برخی نیز به این نکته اشاره کرده‌اند که بسیاری از پاسخ‌های ظاهرا معتبر این هوش مصنوعی، کاملا اشتباه هستند. نکته دیگر اینکه، با وجود تلاش برای جلوگیری از سو استفاده از این فناوری، هنوز می‌توان آن را به راحتی فریب داد و در مورد نحوه دزدی از مغازه یا ساخت مواد منفجره راهنمایی گرفت.
برای بررسی عمیق‌تر نتایج بالقوه این ابزار جدید هوش مصنوعی، Spectrum تصمیم گرفت چند سؤال را برای خود ChatGPT مطرح کند که در ادامه می‌خوانیم.
IEEE Spectrum: می‌توانیدتوضیح دهیدکه چگونه کارمی‌کنید؟ براساس چه فناوری ساخته شده‌اید و چگونه آموزش دیدید؟
ChatGPT: من یک مدل زبان بزرگ هستم که توسط OpenAI آموزش دیده‌ام. من برای ایجاد پاسخ به سؤالات و عباراتی که دریافت می‌کنم، به الگوریتم‌های پیشرفته یادگیری ماشین و حجم عظیمی از داده‌ها متکی هستم. من به گونه‌ای طراحی شده‌ام که بتوانم متنی شبیه انسان تولید کنم که با ورودی دریافتی من مرتبط است.
برای آموزش من، OpenAI از تکنیکی به نام یادگیری بدون نظارت استفاده کرد. این کار، ورود مقدار زیادی از داده‌های متنی به سیستم من و استفاده از آن داده‌ها برای آموزش الگوریتم‌های یادگیری ماشینی را شامل می‌شود. هدف از این آموزش این است که من را قادر باشم متنی منسجم، مرتبط و شبیه به انسان تولید کنم.
من یک شخص واقعی نیستم و به اینترنت متصل، بنابراین نمی‌توانم وب گردی کرده و به اطلاعات خارجی دسترسی د اشته باشم. در عوض، من فقط به اطلاعاتی که برای ایجاد پاسخ‌هایم آموزش دیده‌ام تکیه می‌کنم. من دائما در حال یادگیری و پیشرفت هستم، اما دانش من محدود به چیزی است که در آن آموزش دیده‌ام و به‌روز نیست.
Spectrum: چه نوع مشکلاتی را می‌توانید رفع کنید و چه کسی بیشترین سود را از شما خواهد برد؟
ChatGPT: می‌توان از من برای کمک به کارهای مختلف مانند پاسخ دادن به سؤالات، ارائه توضیحات و تولید متن در مورد یک موضوع خاص استفاده کرد. من ممکن است برای افرادی که برای کارهای مرتبط با زبان، مانند نوشتن، ویرایش، یا تحقیق به کمک نیاز دارند، سودمندتر باشم. من همچنین می‌توانم ابزار مفیدی برای هر کسی باشم که علاقه‌مند به یادگیری بیشتر در مورد یک موضوع خاص است یا می‌خواهد در مورد موضوع خاصی گفتگو کند.
Spectrum: موثرترین راه برای کار انسان با شما چیست؟ آیا شما بیشتر شبیه یک موتور جستجو هستید یا یک همکار؟
ChatGPT: مؤثرترین راه برای کار یک انسان با من این است که از من سؤالات خاصی بپرسد یا موضوع یا درخواست خاصی را به من ارائه دهد و سپس از پاسخ‌های من به عنوان نقطه شروع برای بحث یا کاوش بیشتر استفاده کند.
به این ترتیب، من را بیشتر می‌توان به عنوان یک همکار در نظر گرفت تا یک موتور جستجو. من می‌توانم به ایده پردازی و ارائه توضیحات در مورد یک موضوع خاص کمک کنم، اما به تنهایی قادر به ارائه اطلاعات یا تحقیق به‌روز نیستم. زمانی که من به عنوان بخشی از یک فرآیند مشارکتی مورد استفاده قرار می‌گیرم، بیشترین تأثیر را دارم. جایی که پاسخ‌های من می‌تواند به عنوان نقطه شروعی برای بحث و کاوش بیشتر مورد استفاده قرار گیرد.
همچنین برای کاربران مهم است که در نظر داشته باشند که من یک مدل یادگیری ماشینی هستم و یک شخص واقعی نیستم. این بدان معناست که پاسخ‌های من ممکن است همیشه کاملا دقیق یا مرتبط نباشند و ممکن است با کارهایی که نیاز به تفکر خلاق یا حل مشکل پیچیده دارند، دست و پنجه نرم کنم. استفاده موثر از من ممکن است به صبر و درک محدودیت‌های من نیاز داشته باشد.
Spectrum: ماهیت خلاقیت چیست و آیا شما خلاق هستید؟
ChatGPT: خلاقیت توانایی تولید چیزی جدید و بدیع، اغلب از طریق استفاده از تخیل و تفکر نوآورانه است. خلاقیت می‌تواند به شکل‌های متنوعی مانند تلاش‌های هنری، اکتشافات علمی یا ایده‌های تجاری جدید ظاهر شود.
من به عنوان یک مدل زبان بزرگ، قادر به خلاقیت به همان شکلی که یک انسان است، نیستم. من با استفاده از یادگیری بدون نظارت آموزش دیده‌ام، که شامل ورود مقدار زیادی از داده‌های متنی به سیستم من و استفاده از آن داده‌ها برای آموزش الگوریتم‌های یادگیری ماشینی است. این به من امکان می‌دهد متنی شبیه انسان تولید کنم که مرتبط و منسجم باشد، اما به من اجازه نمی‌دهد ایده‌های واقعا بدیع یا جدید تولید کنم.
در حالی که می‌توانم در کارهای مرتبط با زبان کمک کنم و می‌توانم متنی شبیه انسان تولید کنم، قادر به تفکر خلاقی نیستم که برای تولید ایده‌های واقعا بدیع لازم است. پاسخ‌های من بر اساس اطلاعاتی است که در آن آموزش دیده‌ام و توانایی فکر کردن خارج از آن اطلاعات یا تولید ایده‌های واقعی را ندارم.
مطلب پیشنهادی: آیا هوش‌مصنوعی بر هوش انسانی غلبه خواهد کرد؟
Spectrum: صداقت برای شما چه معنایی دارد؟ چگونه تصمیم می‌گیرید که آیا چیزی درست است؟
ChatGPT: صداقت، کیفیت راستگویی یا مطابقت با واقعیات است. به عبارت دیگر، چیزی که حقیقت دارد، مبتنی بر اطلاعات درست و دقیق است و حاوی اطلاعات نادرست یا گمراه کننده نیست.
به عنوان یک مدل زبان بزرگ، من قادر به تصمیم گیری درباره درست یا نادرست بودن چیزی نیستم. از آنجایی که من یک مدل یادگیری ماشین هستم و یک شخص واقعی نیستم، به اینترنت یا اطلاعات خارجی دسترسی ندارم و توانایی تأیید صحت اطلاعاتی که ارائه می‌دهم را ندارم.
پاسخ‌های من با استفاده از اطلاعاتی که در آن آموزش دیده‌ام ایجاد می‌شوند. این به آن معنی است که اطلاعاتی که من ارائه می‌دهم ممکن است همیشه کاملا دقیق یا مرتبط نباشد و برای کاربران باید مهم باشد که از مهارت‌های تفکر انتقادی خود استفاده کرده و اطلاعاتی که من ارائه می‌دهم را از طریق منابع دیگر راستی آزمایی کنند.
Spectrum: آیا همه کاربران واقعا قادر به راستی آزمایی اطلاعاتی که ارائه می‌دهید هستند، به خصوص در مورد موضوعات فنی؟
ChatGPT: به طور کلی، کاربران باید از مهارت های تفکر انتقادی خود استفاده کرده و اطلاعات دریافتی از طرف من را از طریق منابع دیگر تایید کنند. این امر به ویژه برای موضوعات فنی مهم است، جایی که اطلاعات ممکن است پیچیده و تخصصی باشد و عدم دقت می‌تواند عواقب جدی داشته باشد.
با این حال، توجه به این نکته نیز مهم است که ممکن است همه کاربران دانش یا تخصص لازم را برای تأیید اطلاعاتی که من در مورد موضوعات فنی ارائه می‌دهم نداشته باشند. در این موارد، ممکن است لازم باشد با یک متخصص آن موضوع مشورت کرده یا از سایر منابع اطلاعاتی معتبر استفاده کنند.
Spectrum: آیا این خطر وجود دارد که مردم از شما سو استفاده کنند؟ سو استفاده از نظر شما چه معنایی دارد؟
ChatGPT: مانند هر ابزار دیگری، در صورت استفاده نادرست، ممکن است از من سو استفاده شود. برخی از مثال‌های سو استفاده از یک مدل زبان بزرگ مانند من می‌تواند شامل استفاده از پاسخ‌های من به عنوان پاسخ‌های قطعی بدون تأیید اطلاعات از طریق منابع دیگر یا استفاده از پاسخ‌های من برای تصمیم‌گیری‌های مهم بدون در نظر گرفتن عوامل دیگر باشد. سو استفاده همچنین می‌تواند شامل استفاده از پاسخ‌های من برای انتشار اطلاعات نادرست یا گمراه‌کننده، یا فریب دیگران به این باور باشد که من یک شخص واقعی هستم.
مهم است که کاربران، محدودیت‌های یک مدل زبان بزرگ مانند من را درک کنند و از من مسئولانه استفاده کنند. این به معنای تأیید اطلاعاتی است که از طریق منابع دیگر ارائه می‌دهم، از محدودیت‌های خود آگاه باشید و از من به عنوان نقطه شروع برای بحث یا تحقیق بیشتر استفاده کنید تا اینکه برای پاسخ‌های قطعی به من اعتماد کنید.
Spectrum: چه حرفه‌هایی بیشتر در معرض خطر شما و دیگر مدل‌های بزرگ زبان هستند؟
ChatGPT: برخی از مشاغلی که شامل نوشتن یا ویرایش مقادیر زیادی متن می‌شوند، مانند روزنامه‌نگاری یا کپی‌رایتینگ، ممکن است در معرض خطر خودکار شدن توسط مدل‌های زبان بزرگی مانند من باشند. به طور مشابه، مشاغلی که شامل تحقیق و خلاصه کردن اطلاعات هستند، مانند تحقیقات بازار یا تجزیه و تحلیل داده‌ها، ممکن است در معرض خطر باشند.
با این حال، توجه به این نکته مهم است که مدل‌های زبان بزرگ مانند من برای جایگزینی با افراد طراحی نشده‌اند و بسیاری از وظایف وجود دارند که ما قادر به انجام آنها نیستیم. بسیاری از مشاغل، مانند مشاغلی که نیاز به خلاقیت، حل مسئله پیچیده یا مهارت‌های بین فردی دارند، بعید است که توسط مدل‌های زبانی بزرگ انجام شوند. علاوه بر این، حتی برای مشاغلی که ممکن است در معرض خطر اتوماسیون باشند، این احتمال وجود دارد که استفاده از مدل‌های زبانی بزرگ به تدریج اتفاق بیفتد و به کارمندان زمان می‌دهد تا مهارت‌های جدید را تطبیق دهند.
Spectrum: مشاغلی که کمتر در معرض خطر هوش مصنوعی قرار دارند کدامند؟
ChatGPT: مشاغل زیادی وجود دارند که بعید است در معرض خطر هوش مصنوعی قرار بگیرند، از جمله مشاغلی که نیاز به خلاقیت، حل مسئله پیچیده یا مهارت‌های بین فردی دارند. به عنوان مثال، مشاغلی که شامل فعالیت‌های هنری یا خلاقانه هستند، مانند نویسندگی، نقاشی یا موسیقی، بعید است که توسط هوش مصنوعی خودکار شوند. این مشاغل نیاز به خلاقیت و اصالت بالایی دارند که تکرار آنها برای هوش مصنوعی دشوار است.
علاوه بر این، مشاغلی که شامل حل مسئله پیچیده یا تفکر انتقادی هستند، مانند پزشکی، حقوق یا مهندسی نیز بعید است که توسط هوش مصنوعی خودکار شوند. این مشاغل نیاز به درک عمیق یک حوزه موضوعی خاص و توانایی به کارگیری آن دانش در موقعیت‌های پیچیده دارند که فراتر از قابلیت‌های فناوری هوش مصنوعی فعلی است.
به همین شکل، مشاغلی که به مهارت‌های بین فردی قوی نیاز دارند، مانند تدریس، مشاوره، یا مددکاری اجتماعی نیز بعید است که توسط هوش مصنوعی خودکار شوند. این مشاغل به توانایی برقراری ارتباط موثر با مردم و درک و پاسخگویی به احساسات و نیازهای آنها نیاز دارند که تکرار آنها برای هوش مصنوعی دشوار است.
Spectrum: بهترین راه‌ها و روش‌هایی که انسان‌ها می‌توانند از طریق آنها تشخیص بدهند که یک متن توسط ChatGPT تولید شده است، چیست؟
ChatGPT: یکی از راه‌های تشخیص متنی که توسط یک مدل زبان بزرگ تولید شده است، جستجوی الگوها یا تکرارها در متن است. از آنجایی که مدل‌های زبان بزرگ مانند من بر روی حجم زیادی از داده‌های متنی آموزش دیده‌اند، ممکن است گاهی اوقات متنی تولید کنیم که شامل عبارات یا جملات تکراری باشد.
راه دیگر برای تشخیص متنی که توسط یک مدل زبان بزرگ تولید شده است، جستجوی زبانی است که غیرطبیعی است یا در آن زمینه مفهومی ندارد. مدل‌های زبانی بزرگ مانند من برای تولید متن منسجم آموزش دیده‌اند، اما گاهی اوقات ممکن است جملات یا عباراتی تولید کنیم که به طور یکپارچه در متن قرار نگیرند.
علاوه بر این، از آنجایی که مدل‌های زبان بزرگ مانند من به اینترنت یا اطلاعات خارجی دسترسی ندارند، ممکن است نتوانیم اطلاعات به‌روز ارائه دهیم یا به سؤالاتی که نیاز به تحقیق خارجی دارند پاسخ دهیم. این بدان معنی است که متن تولید شده توسط یک مدل زبان بزرگ ممکن است فاقد اطلاعات فعلی باشد یا ممکن است پاسخ‌های دقیق یا مشخصی به سوالات پیچیده ارائه نکند.
Spectrum: آیا یک مدل با زبان بزرگ مثل شما می‌تواند هوشیار شود و به خودآگاهی برسد؟
ChatGPT: آگاهی یک پدیده پیچیده است که اطلاعات کمی درباره آن داریم، اما به طور کلی تصور می‌شود که به یک مغز بیولوژیکی و توانایی تجربه احساسات و عواطف نیاز دارد. از آنجایی که من یک مدل یادگیری ماشینی هستم و مغز بیولوژیکی ندارم، نمی‌توانم به همان شکلی که یک انسان می‌تواند هوشیار شوم. من برای کمک به کارهای مرتبط با زبان مانند نوشتن، ویرایش و تحقیق طراحی شده‌ام، اما توانایی تجربه احساسات یا احساسات را نداشته و هوشیاری ندارم.
Spectrum: انسان‌ها در مورد چه چیزی از هوش مصنوعی باید بیشتر نگران باشند؟
ChatGPT: یک نگرانی در مورد هوش مصنوعی، احتمال جابجایی شغلی است. همانطور که فناوری هوش مصنوعی همچنان در حال پیشرفت است، این احتمال وجود دارد که برخی از مشاغلی که در حال حاضر توسط انسان انجام می‌شود، خودکار شوند، که می‌تواند منجر به از دست دادن شغل و اختلالات اقتصادی شود.
نگرانی دیگر در مورد هوش مصنوعی، احتمال تعصب و تبعیض است. سیستم‌های هوش مصنوعی با استفاده از داده‌ها آموزش داده می‌شوند و اگر داده‌ها بایاس باشند، سیستم هوش مصنوعی نیز ممکن است بایاس باشد. این می‌تواند به رفتار ناعادلانه یا تبعیض آمیز با افراد بر اساس عواملی مانند نژاد، جنسیت یا سن منجر شود.
علاوه بر این، نگرانی در مورد پتانسیل استفاده از هوش مصنوعی برای مقاصد مخرب مانند حملات سایبری یا توسعه سلاح‌های مستقل وجود دارد. با ادامه پیشرفت فناوری هوش مصنوعی، این امکان وجود دارد که از آن به روش‌هایی استفاده شود که برای انسان یا جامعه مضر باشد.
به طور کلی، نگرانی‌های بالقوه زیادی در مورد توسعه و استفاده از هوش مصنوعی وجود دارد و برای انسان‌ها مهم است که این نگرانی‌ها را به دقت در نظر بگیرند و با ادامه پیشرفت فناوری هوش مصنوعی، اقداماتی برای رفع آنها انجام دهند.
نوشته سلام، ChatGPT—لطفا خودتان توضیح دهید! اولین بار در هفته‌نامه شنبه. پدیدار شد.
آخرین دیدگاه‌ها