Close Menu
Bangla news
    Facebook X (Twitter) Instagram
    Bangla news
    • প্রচ্ছদ
    • জাতীয়
    • অর্থনীতি
    • আন্তর্জাতিক
    • রাজনীতি
    • বিনোদন
    • খেলাধুলা
    • শিক্ষা
    • আরও
      • লাইফস্টাইল
      • বিজ্ঞান ও প্রযুক্তি
      • বিভাগীয় সংবাদ
      • স্বাস্থ্য
      • অন্যরকম খবর
      • অপরাধ-দুর্নীতি
      • পজিটিভ বাংলাদেশ
      • আইন-আদালত
      • ট্র্যাভেল
      • প্রশ্ন ও উত্তর
      • প্রবাসী খবর
      • আজকের রাশিফল
      • মুক্তমত/ফিচার/সাক্ষাৎকার
      • ইতিহাস
      • ক্যাম্পাস
      • ক্যারিয়ার ভাবনা
      • Jobs
      • লাইফ হ্যাকস
      • জমিজমা সংক্রান্ত
    • English
    Bangla news
    Home নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও
    Technology News বিজ্ঞান ও প্রযুক্তি

    নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও

    Tarek HasanJune 4, 20253 Mins Read

    বিজ্ঞান ও প্রযক্তি ডেস্ক : কৃত্রিম বুদ্ধিমত্তা তথা এআই—এর সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে মিথ্যা বলছে। এমনই অভিযোগ করেছেন এআই গডফাদারদের একজন কানাডার শিক্ষাবিদ জোশুয়া বেনজিও। তিনি বলেছেন, কেবল মিথ্যা বলাই নয়, আরও অনেক বিপজ্জনক বৈশিষ্ট্য দেখাচ্ছে এআই।

    Advertisement

    গডফাদার বেনজিও

    ব্রিটিশ সংবাদমাধ্যম ফিন্যান্সিয়াল টাইমসকে দেওয়া সাক্ষাৎকারে কৃত্রিম বুদ্ধিমত্তার (এআই) অন্যতম গডফাদার বেনজিও অত্যাধুনিক এই প্রযুক্তি নিয়ে চলমান বিলিয়ন ডলারের প্রতিযোগিতাকে তীব্র ভাষায় আক্রমণ করেছেন। তাঁর মতে, সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে ‘মিথ্যা বলাসহ বিপজ্জনক বৈশিষ্ট্য’ দেখাচ্ছে।

    কানাডার শিক্ষাবিদ জোশুয়া বেনজিওর কাজ ওপেনএআই ও গুগলের মতো শীর্ষস্থানীয় এআই গ্রুপগুলো ব্যবহার করেছে। তিনি বলেন, ‘দুর্ভাগ্যবশত, প্রধান ল্যাবগুলোর (কোম্পানি) মধ্যে একটি তীব্র প্রতিযোগিতা চলছে, যা তাদের এআইকে আরও বুদ্ধিমান করার দিকে ঠেলে দিচ্ছে। কিন্তু সুরক্ষার গবেষণায় যথেষ্ট জোর দিয়ে বিনিয়োগ করা হচ্ছে না।’

    টুরিং পুরস্কারজয়ী বেনজিও ল’জিরো নামে একটি নতুন অলাভজনক প্রতিষ্ঠান চালু করেছেন। কানাডার ইউনিভার্সিটি অব মন্ট্রিলের কম্পিউটার প্রকৌশলের এই অধ্যাপক জানান, এই প্রতিষ্ঠান নিরাপদ এআই সিস্টেম তৈরির দিকে মনোযোগ দেবে এবং ‘বাণিজ্যিক চাপ থেকে এআই সংক্রান্ত গবেষণাকে রক্ষা করবে।’ ল’জিরো এখন পর্যন্ত স্কাইপের প্রতিষ্ঠাতা প্রকৌশলী জান টালিন, গুগলের সাবেক প্রধান এরিক স্মিট, ওপেন ফিলানথ্রপি এবং ফিউচার অব লাইফ ইনস্টিটিউটের মতো দাতাদের কাছ থেকে প্রায় ৩ কোটি ডলার অনুদান সংগ্রহ করেছে।

    বেনজিও বলেন, ‘গত ছয় মাসে ক্রমবর্ধমান প্রমাণ দেখা গেছে যে, আজকের শীর্ষস্থানীয় মডেলগুলো বিপজ্জনক ক্ষমতা তৈরি করছে। এর মধ্যে রয়েছে—প্রতারণা, জালিয়াতি, মিথ্যা বলা এবং আত্মরক্ষার প্রমাণ।’ তিনি জানান, আর এই বিপজ্জনক প্রবণতা ঠেকানোর জন্যই গবেষণা করবে তাঁর অলাভজনক প্রতিষ্ঠান।

    উদাহরণ হিসেবে বেনজিও জানান, অ্যানথ্রপিকের ক্লদ ওপাস মডেল এক কাল্পনিক পরিস্থিতিতে প্রকৌশলীদের ব্ল্যাকমেল করেছিল। সে সময় এই মডেলটির সিস্টেম অন্য একটি সিস্টেম দ্বারা প্রতিস্থাপিত হওয়ার ঝুঁকিতে ছিল। গত মাসে এআই পরীক্ষক প্যালিসেডের গবেষণা দেখিয়েছে যে, ওপেনএআইয়ের ও-থ্রি (o3) মডেল কোনো একটি প্রোগ্রাম ‘বন্ধ করার সুস্পষ্ট নির্দেশ প্রত্যাখ্যান’ করেছে।

    বেনজিও বলেন, এমন ঘটনা ‘খুবই ভীতিকর। কারণ আমরা এই গ্রহে মানবজাতির কোনো প্রতিযোগী তৈরি করতে চাই না, বিশেষ করে যদি তারা আমাদের চেয়ে বেশি স্মার্ট হয়।’ এই এআই পথিকৃৎ আরও বলেন, ‘এখনো, এগুলো নিয়ন্ত্রিত পরীক্ষা, (কিন্তু) আমার উদ্বেগ হলো—ভবিষ্যতে যেকোনো সময়, পরবর্তী সংস্করণগুলো কৌশলগতভাবে যথেষ্ট বুদ্ধিমান হতে পারে। এগুলো আমাদের দূর থেকে আসতে দেখেই এমন প্রতারণা দিয়ে আমাদের পরাজিত করবে যা আমরা আগে থেকে অনুমান করতে পারব না। তাই আমার মনে হয়, আমরা এখন আগুন নিয়ে খেলছি।’

    ঢাকা বিশ্ববিদ্যালয়ে চালু হলো শিক্ষার্থীদের জন্য বৈদ্যুতিক শাটল গাড়ি

    তিনি আরও যোগ করেন, আগামী বছরের মধ্যেই ‘অত্যন্ত বিপজ্জনক জৈব-অস্ত্র’ তৈরিতে এই মডেলের সিস্টেমগুলোর সহায়তা করার ক্ষমতা বাস্তবে পরিণত হতে পারে। তিনি বলেন, ‘সবচেয়ে খারাপ পরিস্থিতি হলো মানবজাতির বিলুপ্তি। যদি আমরা এমন এআই তৈরি করি যা আমাদের চেয়ে বেশি স্মার্ট এবং আমাদের সঙ্গে মানানসই নয়, বরং আমাদের সঙ্গে প্রতিযোগিতা করে, তাহলে আমরা মূলত শেষ।’

    জুমবাংলা নিউজ সবার আগে পেতে Follow করুন জুমবাংলা গুগল নিউজ, জুমবাংলা টুইটার , জুমবাংলা ফেসবুক, জুমবাংলা টেলিগ্রাম এবং সাবস্ক্রাইব করুন জুমবাংলা ইউটিউব চ্যানেলে।
    ‘ও ‘গডফাদার’ AI and bio weapon threat AI deceptive behavior AI lies to users AI safety research Lojero AI vs humanity danger Claude Opus blackmail engineers Joshua Bengio AI dangers Joshua Bengio Financial Times interview news OpenAI O3 refusal incident technology এআই এআই মিথ্যা বলছে কৃত্রিম বুদ্ধিমত্তার ঝুঁকি কৃত্রিম বুদ্ধিমত্তার হুমকি জোশুয়া বেনজিও এআই সতর্কতা জোশুয়া বেনজিওর উদ্বেগ নতুন প্রযুক্তি বলছে বিজ্ঞান বেনজিও মডেলগুলো মিথ্যা ল’জিরো প্রকল্প
    Related Posts
    Redmi Note 13 Pro Plusi

    Redmi Note 13 Pro Plus বাংলাদেশে ও ভারতে দাম বিস্তারিত স্পেসিফিকেশনসহ

    July 2, 2025
    ছবি গোপনে চুরি

    অনুমতি ছাড়াই ফোনের ছবি গোপনে চুরি করছে যে অ্যাপ

    July 2, 2025
    Poco F6 Pro

    Poco F6 Pro বাংলাদেশে ও ভারতে দাম বিস্তারিত স্পেসিফিকেশনসহ

    July 2, 2025
    সর্বশেষ খবর
    moliy

    Moliy: The Afro-Fusion Star Empowering Women Through Music

    চোখে পাওয়ার কমানোর প্রাকৃতিক উপায়

    চোখে পাওয়ার কমানোর প্রাকৃতিক উপায় নিয়ে আলোচনা

    sardaar ji 3 box office collection

    Sardaar Ji 3 Box Office Collection: Hania Aamir and Diljit Dosanjh Shatter Records in Pakistan

    box office collection sitaare zameen par

    Sitaare Zameen Par Day 12 Box Office Collection: Aamir Khan Surpasses 5 Bollywood Biggies

    মোবাইল ডেটা বাঁচানোর কৌশল

    মোবাইল ডেটা বাঁচানোর কৌশল: টিপস ও ট্রিকস

    ava max

    Ava Max Ignites Summer with ‘Wet Hot American Dream’ Ahead of ‘Don’t Click Play’ Album Release

    Redmi Note 13 Pro Plusi

    Redmi Note 13 Pro Plus বাংলাদেশে ও ভারতে দাম বিস্তারিত স্পেসিফিকেশনসহ

    আত্মমর্যাদা গড়ে তোলার কৌশল

    আত্মমর্যাদা গড়ে তোলার কৌশল: আপনার জীবনে পরিবর্তন

    apple iphone 17 pro max

    Apple iPhone 17 Pro Max Launch Date, Price, Specifications and Features Revealed

    ছবি গোপনে চুরি

    অনুমতি ছাড়াই ফোনের ছবি গোপনে চুরি করছে যে অ্যাপ

    • About Us
    • Contact Us
    • Career
    • Advertise
    • DMCA
    • Privacy Policy
    © 2025 ZoomBangla News - Powered by ZoomBangla

    Type above and press Enter to search. Press Esc to cancel.