Close Menu
Bangla news
    Facebook X (Twitter) Instagram
    Bangla news
    • প্রচ্ছদ
    • জাতীয়
    • অর্থনীতি
    • আন্তর্জাতিক
    • রাজনীতি
    • বিনোদন
    • খেলাধুলা
    • শিক্ষা
    • আরও
      • লাইফস্টাইল
      • বিজ্ঞান ও প্রযুক্তি
      • বিভাগীয় সংবাদ
      • স্বাস্থ্য
      • অন্যরকম খবর
      • অপরাধ-দুর্নীতি
      • পজিটিভ বাংলাদেশ
      • আইন-আদালত
      • ট্র্যাভেল
      • প্রশ্ন ও উত্তর
      • প্রবাসী খবর
      • আজকের রাশিফল
      • মুক্তমত/ফিচার/সাক্ষাৎকার
      • ইতিহাস
      • ক্যাম্পাস
      • ক্যারিয়ার ভাবনা
      • Jobs
      • লাইফ হ্যাকস
      • জমিজমা সংক্রান্ত
    • English
    Bangla news
    Home নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও
    Technology News বিজ্ঞান ও প্রযুক্তি

    নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও

    Tarek HasanJune 4, 20253 Mins Read
    Advertisement

    বিজ্ঞান ও প্রযক্তি ডেস্ক : কৃত্রিম বুদ্ধিমত্তা তথা এআই—এর সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে মিথ্যা বলছে। এমনই অভিযোগ করেছেন এআই গডফাদারদের একজন কানাডার শিক্ষাবিদ জোশুয়া বেনজিও। তিনি বলেছেন, কেবল মিথ্যা বলাই নয়, আরও অনেক বিপজ্জনক বৈশিষ্ট্য দেখাচ্ছে এআই।

    গডফাদার বেনজিও

    ব্রিটিশ সংবাদমাধ্যম ফিন্যান্সিয়াল টাইমসকে দেওয়া সাক্ষাৎকারে কৃত্রিম বুদ্ধিমত্তার (এআই) অন্যতম গডফাদার বেনজিও অত্যাধুনিক এই প্রযুক্তি নিয়ে চলমান বিলিয়ন ডলারের প্রতিযোগিতাকে তীব্র ভাষায় আক্রমণ করেছেন। তাঁর মতে, সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে ‘মিথ্যা বলাসহ বিপজ্জনক বৈশিষ্ট্য’ দেখাচ্ছে।

    কানাডার শিক্ষাবিদ জোশুয়া বেনজিওর কাজ ওপেনএআই ও গুগলের মতো শীর্ষস্থানীয় এআই গ্রুপগুলো ব্যবহার করেছে। তিনি বলেন, ‘দুর্ভাগ্যবশত, প্রধান ল্যাবগুলোর (কোম্পানি) মধ্যে একটি তীব্র প্রতিযোগিতা চলছে, যা তাদের এআইকে আরও বুদ্ধিমান করার দিকে ঠেলে দিচ্ছে। কিন্তু সুরক্ষার গবেষণায় যথেষ্ট জোর দিয়ে বিনিয়োগ করা হচ্ছে না।’

    টুরিং পুরস্কারজয়ী বেনজিও ল’জিরো নামে একটি নতুন অলাভজনক প্রতিষ্ঠান চালু করেছেন। কানাডার ইউনিভার্সিটি অব মন্ট্রিলের কম্পিউটার প্রকৌশলের এই অধ্যাপক জানান, এই প্রতিষ্ঠান নিরাপদ এআই সিস্টেম তৈরির দিকে মনোযোগ দেবে এবং ‘বাণিজ্যিক চাপ থেকে এআই সংক্রান্ত গবেষণাকে রক্ষা করবে।’ ল’জিরো এখন পর্যন্ত স্কাইপের প্রতিষ্ঠাতা প্রকৌশলী জান টালিন, গুগলের সাবেক প্রধান এরিক স্মিট, ওপেন ফিলানথ্রপি এবং ফিউচার অব লাইফ ইনস্টিটিউটের মতো দাতাদের কাছ থেকে প্রায় ৩ কোটি ডলার অনুদান সংগ্রহ করেছে।

    বেনজিও বলেন, ‘গত ছয় মাসে ক্রমবর্ধমান প্রমাণ দেখা গেছে যে, আজকের শীর্ষস্থানীয় মডেলগুলো বিপজ্জনক ক্ষমতা তৈরি করছে। এর মধ্যে রয়েছে—প্রতারণা, জালিয়াতি, মিথ্যা বলা এবং আত্মরক্ষার প্রমাণ।’ তিনি জানান, আর এই বিপজ্জনক প্রবণতা ঠেকানোর জন্যই গবেষণা করবে তাঁর অলাভজনক প্রতিষ্ঠান।

    উদাহরণ হিসেবে বেনজিও জানান, অ্যানথ্রপিকের ক্লদ ওপাস মডেল এক কাল্পনিক পরিস্থিতিতে প্রকৌশলীদের ব্ল্যাকমেল করেছিল। সে সময় এই মডেলটির সিস্টেম অন্য একটি সিস্টেম দ্বারা প্রতিস্থাপিত হওয়ার ঝুঁকিতে ছিল। গত মাসে এআই পরীক্ষক প্যালিসেডের গবেষণা দেখিয়েছে যে, ওপেনএআইয়ের ও-থ্রি (o3) মডেল কোনো একটি প্রোগ্রাম ‘বন্ধ করার সুস্পষ্ট নির্দেশ প্রত্যাখ্যান’ করেছে।

    বেনজিও বলেন, এমন ঘটনা ‘খুবই ভীতিকর। কারণ আমরা এই গ্রহে মানবজাতির কোনো প্রতিযোগী তৈরি করতে চাই না, বিশেষ করে যদি তারা আমাদের চেয়ে বেশি স্মার্ট হয়।’ এই এআই পথিকৃৎ আরও বলেন, ‘এখনো, এগুলো নিয়ন্ত্রিত পরীক্ষা, (কিন্তু) আমার উদ্বেগ হলো—ভবিষ্যতে যেকোনো সময়, পরবর্তী সংস্করণগুলো কৌশলগতভাবে যথেষ্ট বুদ্ধিমান হতে পারে। এগুলো আমাদের দূর থেকে আসতে দেখেই এমন প্রতারণা দিয়ে আমাদের পরাজিত করবে যা আমরা আগে থেকে অনুমান করতে পারব না। তাই আমার মনে হয়, আমরা এখন আগুন নিয়ে খেলছি।’

    ঢাকা বিশ্ববিদ্যালয়ে চালু হলো শিক্ষার্থীদের জন্য বৈদ্যুতিক শাটল গাড়ি

    তিনি আরও যোগ করেন, আগামী বছরের মধ্যেই ‘অত্যন্ত বিপজ্জনক জৈব-অস্ত্র’ তৈরিতে এই মডেলের সিস্টেমগুলোর সহায়তা করার ক্ষমতা বাস্তবে পরিণত হতে পারে। তিনি বলেন, ‘সবচেয়ে খারাপ পরিস্থিতি হলো মানবজাতির বিলুপ্তি। যদি আমরা এমন এআই তৈরি করি যা আমাদের চেয়ে বেশি স্মার্ট এবং আমাদের সঙ্গে মানানসই নয়, বরং আমাদের সঙ্গে প্রতিযোগিতা করে, তাহলে আমরা মূলত শেষ।’

    জুমবাংলা নিউজ সবার আগে পেতে Follow করুন জুমবাংলা গুগল নিউজ, জুমবাংলা টুইটার , জুমবাংলা ফেসবুক, জুমবাংলা টেলিগ্রাম এবং সাবস্ক্রাইব করুন জুমবাংলা ইউটিউব চ্যানেলে।
    ‘ও ‘গডফাদার’ AI and bio weapon threat AI deceptive behavior AI lies to users AI safety research Lojero AI vs humanity danger Claude Opus blackmail engineers Joshua Bengio AI dangers Joshua Bengio Financial Times interview news OpenAI O3 refusal incident technology এআই এআই মিথ্যা বলছে কৃত্রিম বুদ্ধিমত্তার ঝুঁকি কৃত্রিম বুদ্ধিমত্তার হুমকি জোশুয়া বেনজিও এআই সতর্কতা জোশুয়া বেনজিওর উদ্বেগ নতুন প্রযুক্তি বলছে বিজ্ঞান বেনজিও মডেলগুলো মিথ্যা ল’জিরো প্রকল্প
    Related Posts
    Google’s Veo 3 bengali

    ভারতে চালু হল Google-এর Veo 3 AI Video Generator: বৈশিষ্ট্য, মূল্য এবং গ্লোবাল রোলআউট

    July 5, 2025
    মোবাইল অ্যাপে নিরাপত্তা বাড়ানো

    মোবাইল অ্যাপে নিরাপত্তা বাড়ানো: আপনার ডিজিটাল জীবন রক্ষার অপরিহার্য কৌশল

    July 5, 2025
    Moto

    চীনে লঞ্চ হল Moto G100 Pro, জেনে নিন দাম ফিচার ডিটেইলস

    July 5, 2025
    সর্বশেষ খবর
    Google’s Veo 3 bengali

    ভারতে চালু হল Google-এর Veo 3 AI Video Generator: বৈশিষ্ট্য, মূল্য এবং গ্লোবাল রোলআউট

    Google’s Veo 3

    Google’s Veo 3 AI Video Generator Launches Globally: Features, Price, and Global Rollout

    পর্বতারোহীর হৃদয়বিদারক বার্তা

    মৃত্যুর আগে মায়ের উদ্দেশে পর্বতারোহীর হৃদয়বিদারক বার্তা

    সঠিক কুরআন তিলাওয়াতের নিয়ম

    সঠিক কুরআন তিলাওয়াতের নিয়ম কেন অপরিহার্য?

    ইবাদতে মনোযোগ বাড়ানোর উপায়

    ইবাদতে মনোযোগ বাড়ানোর উপায়: হারানো ফোকাস ফিরে পাওয়ার সহজ কৌশল

    ভালোবাসার মানুষ

    ভালোবাসার মানুষটি কেমন, বলে দেবে ভাইরাল এই ছবিটি

    Amir

    আমরা যেনতেন নির্বাচন চাই না : জামায়াতের আমীর

    Bhabi-Ji-Ghar-Par-Hai

    রিলিজ হলো নতুন রোমান্টিক ওয়েব সিরিজ, সম্পর্কের জটিলতায় ভরপুর কাহিনি!

    লেডিস সাইকেল

    লেডিস সাইকেলে রড কেন থাকে না

    Rain

    সন্ধ্যার মধ্যে ৬ অঞ্চলে ৬০ কিমি বেগে ঝড়ের শঙ্কা

    • About Us
    • Contact Us
    • Career
    • Advertise
    • DMCA
    • Privacy Policy
    © 2025 ZoomBangla News - Powered by ZoomBangla

    Type above and press Enter to search. Press Esc to cancel.