হ্যাঁ, এআই (AI) মাঝে মাঝে ভুল তথ্য দিতে পারে। এটাকে টেকনিক্যাল ভাষায় বলা হয় ‘Hallucination’ বা ভ্রান্তি।
এর মূল কারণ হলো, এআই কোনো মানুষের মতো করে চিন্তা করে না বা বাস্তব জগত সম্পর্কে তার নিজস্ব কোনো অভিজ্ঞতা নেই। সে মূলত বিশাল পরিমাণ ডেটার প্যাটার্ন বিশ্লেষণ করে এবং উত্তর তৈরি করে। যখন সে কোনো তথ্যের ব্যাপারে নিশ্চিত হতে পারে না, তখন সে প্যাটার্নের ওপর ভিত্তি করে এমন একটি উত্তর তৈরি করে যা শুনতে খুব বিশ্বাসযোগ্য মনে হয়, কিন্তু বাস্তবে তা ভুলও হতে পারে।
তাছাড়া, এআই যে ডেটাসেটের ওপর ভিত্তি করে ট্রেনিং পেয়েছে, সেখানে যদি ভুল তথ্য থাকে, তবে এআই-ও সেই ভুল তথ্যটিই আমাদের সামনে উপস্থাপন করে।
তাই এআই-এর দেওয়া তথ্য, বিশেষ করে খুব গুরুত্বপূর্ণ বা সংবেদনশীল বিষয়ে (যেমন: চিকিৎসা বা আইনি পরামর্শ) চোখ বন্ধ করে বিশ্বাস না করে সব সময় নির্ভরযোগ্য কোনো সোর্স থেকে যাচাই করে নেওয়া বুদ্ধিমানের কাজ। এআই-কে একজন সহকারীর মতো ব্যবহার করা উচিত, চূড়ান্ত সিদ্ধান্ত নেওয়ার জন্য নয়।
মন্তব্য
লগইন করুন মন্তব্য করতে।