ডিপসেকের নতুন চ্যাটবট একটি চিত্তাকর্ষক ভূমিকা নিয়ে গর্বিত: "হাই, আমি তৈরি হয়েছিল যাতে আপনি কিছু জিজ্ঞাসা করতে পারেন এবং এমন একটি উত্তর পেতে পারেন যা আপনাকে অবাক করে দিতে পারে।" এই এআই, চীনা স্টার্টআপ ডিপসেকের পণ্য, দ্রুত একটি বড় খেলোয়াড় হয়ে উঠেছে, এমনকি এনভিডিয়ার শেয়ারের দামের উল্লেখযোগ্য হ্রাসে অবদান রেখেছে।

ডিপসিকের সাফল্য তার উদ্ভাবনী স্থাপত্য এবং প্রশিক্ষণ পদ্ধতি থেকে উদ্ভূত। মূল প্রযুক্তিগুলির মধ্যে রয়েছে:
- মাল্টি-টোকেন পূর্বাভাস (এমটিপি): স্বতন্ত্রভাবে শব্দের পূর্বাভাস দেওয়ার পরিবর্তে, এমটিপি একসাথে একাধিক শব্দের পূর্বাভাস দেয়, নির্ভুলতা এবং দক্ষতা বাড়িয়ে তোলে।
- বিশেষজ্ঞদের মিশ্রণ (এমওই): এই আর্কিটেকচারটি ডিপসেক ভি 3 -তে 256 নিউরাল নেটওয়ার্কগুলি ব্যবহার করে, প্রতিটি টোকেন প্রসেসিং টাস্কের জন্য আটটি সক্রিয় করে, প্রশিক্ষণকে ত্বরান্বিত করে এবং কর্মক্ষমতা উন্নত করে।
- মাল্টি-হেডের সুপ্ত মনোযোগ (এমএলএ): এমএলএ বারবার পাঠ্য খণ্ডগুলি থেকে মূল বিবরণগুলি বের করে, নিশ্চিত করে যে গুরুত্বপূর্ণ তথ্যটি মিস করা হয়নি, এটি ইনপুট ডেটা সম্পর্কে আরও সংক্ষিপ্ত বোঝার দিকে পরিচালিত করে।
ডিপসেক প্রাথমিকভাবে মাত্র 2048 জিপিইউ ব্যবহার করে ডিপসেক ভি 3 এর জন্য মাত্র 6 মিলিয়ন ডলারের একটি উল্লেখযোগ্য কম প্রশিক্ষণ ব্যয় দাবি করেছিল। যাইহোক, সেমিয়ানালাইসিসটি আরও বেশি বিস্তৃত অবকাঠামো প্রকাশ করেছে: প্রায় 50,000 এনভিডিয়া হপার জিপিইউ (10,000 এইচ 800 এস, 10,000 এইচ 100 এস, এবং অতিরিক্ত এইচ 20) একাধিক ডেটা সেন্টারে ছড়িয়ে পড়ে, প্রায় $ 944 মিলিয়ন ডলার মোট সার্ভার বিনিয়োগের প্রতিনিধিত্ব করে।

চাইনিজ হেজ ফান্ড হাই-ফ্লায়ারের সহায়ক সংস্থা ডিপসেক তার ডেটা সেন্টারের মালিক, অপ্টিমাইজেশন এবং দ্রুত উদ্ভাবন বাস্তবায়নের উপর নিয়ন্ত্রণ সরবরাহ করে। এই স্ব-অর্থায়িত পদ্ধতির নমনীয়তা এবং সিদ্ধান্ত গ্রহণকে বাড়িয়ে তোলে। সংস্থাটি শীর্ষ প্রতিভা আকর্ষণ করে, কিছু গবেষক মূলত চীনা বিশ্ববিদ্যালয় থেকে বার্ষিক ১.৩ মিলিয়ন ডলারের বেশি আয় করেন।

Research 6 মিলিয়ন প্রশিক্ষণ ব্যয়ের দাবিটি একটি গুরুত্বপূর্ণ অবসন্নতা বলে মনে হচ্ছে, যা গবেষণা, পরিমার্জন, ডেটা প্রসেসিং এবং অবকাঠামো বাদ দিয়ে কেবল প্রাক-প্রশিক্ষণ জিপিইউ ব্যবহারের প্রতিনিধিত্ব করে। এআই বিকাশে ডিপসিকের প্রকৃত বিনিয়োগ $ 500 মিলিয়ন ছাড়িয়েছে। তা সত্ত্বেও, এর পাতলা কাঠামোটি বৃহত্তর, আরও আমলাতান্ত্রিক সংস্থার তুলনায় দক্ষ উদ্ভাবনের অনুমতি দেয়।

ডিপসেকের সাফল্য শিল্প জায়ান্টদের সাথে প্রতিযোগিতা করার জন্য সু-অর্থায়িত স্বতন্ত্র এআই সংস্থাগুলির সম্ভাব্যতা তুলে ধরে। যদিও এর "বিপ্লবী বাজেট" দাবিটি অতিরঞ্জিত, এর সাফল্য অনস্বীকার্যভাবে যথেষ্ট বিনিয়োগ, প্রযুক্তিগত অগ্রগতি এবং একটি শক্তিশালী দলের সাথে যুক্ত। প্রশিক্ষণের ব্যয়ের তুলনা করার সময় বিপরীতে সম্পূর্ণ: ডিপসেকের আর 1 এর দাম 5 মিলিয়ন ডলার, যখন চ্যাটজিপিটি -4 এর দাম $ 100 মিলিয়ন। তবে এটি এখনও এর প্রতিযোগীদের তুলনায় সস্তা।