Dhruv Rathee - Mystery of Q-Star ｜ The AI which threatens Humanit..
In this video, we explore the tumultuous year at OpenAl. Witness the Shocking Ousting and Reinstatement of CEO Sam Altman and President Greg Brockman, Triggered by the Controversial 'Q*'. We delve into the ethical concerns and the role of Microsoft in this saga, providing insights into the challenges and future of Al. Join Dhruv Rathee as he navigates through the dramatic world of Al!
Transcript
00:00नमस्कार दोस्तों, आज से ठीक एक साल पहले
00:02ChatGPT पबलिक के सामने लॉंच हुआ था
00:04और इस एक साल में इसने लिटरली दुनिया बदल कर रहा था
00:08ChatGPT
00:11लोगों के लिए यकीन करना मुश्किल था
00:13कि एक artificial intelligence software इस हद तक powerful हो सकता है
00:18इसे बनाने वाली कमपनी, Open AI और इस कमपनी के CEO, Sam Altman
00:22AI revolution के नएह चेहरों की तरहे उभर कर आए
00:25My belief is that all repetitive human work
00:28that will all be done in the next couple of decades
00:30better, cheaper, faster by AI
00:32लेकिन आज से कुछ दिन पहले इस कमपनी में
00:34कुछ बहुत अजीबो गरीब चीजे होती हैं
00:36अचानक से कमपनी के Board of Directors
00:39Sam Altman को फायर कर देते हैं
00:44कमपनी में काम करने वाले Employees
00:46हला मचा देते हैं इस खबर को सुनकर
00:48धंकिया दी जाती हैं कि ढेरो लोग
00:49अपनी जॉब से रिजाइन कर देंगे
00:51अगले चार दिन में, तीन बार
00:53CEOs की अदला बदली होती है Open AI में
00:55लेकिन सबसे हैरान कर देने वाली बात तो यह है
00:58कि इस पूरी Controversy के पीछे
01:00कारण बताये जाता है एक Mysterious AI को
01:04QSTAR
01:07सही सुना आपने, Sam Altman को फायर किये जाने से
01:09कुछ दिन पहले, कमपनी में काम करने वाले
01:11Researchers ने एक चिठ्ठी लिखी थी
01:13कमपनी के Board of Directors को
01:15इस चिठ्ठी में एक warning दी गई थी
01:17चिठ्ठी में लिखा था कि कमपनी ने
01:19एक बेहत ताकतवर AI का
01:21आविशकार कर लिया है एक ऐसा
01:23AI जो इंसानियत को खतरे में डाल सकता है
01:25एक ऐसा AI जो ना सिर्फ
01:27बहुत Complex Mathematical और Scientific प्राबलम
01:29solve कर सकता है
01:31बलकि कुछ हद तक Future Events को
01:33भी predict कर सकता है. इस AI को
01:35कमपनी ने internally नाम दे रखा है
01:37QSTAR. आये समझते हैं
01:39इस वीडियो में इस पूरे रहस्य को
01:41गहराई से.
01:58इस साल Tom Cruise की एक नई
02:00Mission Impossible फिल्म आयी थी
02:02Dead Reckoning Part 1. अगर आपको याद हो दोस्तो
02:04इस फिल्म में जो में विलन था
02:06वो कोई इंसान नहीं था. बलकि एक
02:08Artificial Intelligence का Software था.
02:15फिल्म ने इस AI को नाम दिया था
02:17Entity और ये AI इतना Powerful
02:19दिखाया गया था कि ये हर समय
02:21हर वक्त मौझूद होता था और ये
02:23इंसानों को अपने फायदे के लिए
02:25Manipulate कर सकता था.
02:27Mathematically अपनी Mass Surveillance की
02:29मदद से ये Future भी predict कर सकता था.
02:31और Future predict करने का मतलब ये नहीं कि
02:33ये बताना कि अगले 10 साल, 15 साल
02:35में क्या होगा. बलकि किसी भी
02:37Particular Situation में अगले एक दिन
02:39ये अगले एक हफ़ते में बताना
02:41कि उस Particular Situation का Future
02:43Outcome क्या निकलेगा. ये AI
02:45सिरफ दो तीन कामों में अच्छा नहीं था
02:47बलकि almost हर काम ये इंसानों से
02:49बहतर कर पाता था. इस तरीके
02:51की Artificial Intelligence को असल
02:53जिन्दिगी में एक नाम दिया जाता है दोस्त.
02:55AGI.
02:57Artificial General Intelligence.
03:09आज के दिन जो famous AI
03:11Softwares हैं. जैसे की Chat, GPT जैसे
03:13Language Learning Models या फिर
03:15Mid Journey जैसे Generative AI Tools.
03:17इन सब को Weak AI की
03:19Category में डाला जाता है. यानी ये कमजोर
03:21AI Softwares हैं. ये सिरफ
03:23Specific कामों में अच्छे हैं. जिन काम
03:25के लिए इन्हें बनाया गया है, वो काम बहुत
03:27बढ़िया तरीके से करते हैं, इंसानों से बहतर करते हैं.
03:29लेकिन सिरफ वही कामों में इनकी
03:31Specialization है. AGI जैसे अगर
03:33कोई Strong AI exist करेगा, तो वो
03:35बहुत सारी अलग अलग चीज़ों में इंसानों से
03:37बहतर काम कर पाएगा एक ही बारी में.
03:39लेकिन इस point of time पर कोई
03:41भी Strong AI exist नहीं करता है
03:43दुनिया में. Open AI Company की
03:45साल 2015 में स्थापना करी गई थी
03:47एक Non-profit के दौर पर और इस company को
03:49बनाने के पीछे सिरफ एक
03:52एक ऐसा artificial general intelligence बनाना
03:54AGI बनाना जो इंसानियत को
03:56benefit पहुँचा है. आज भी आप
03:58इस company की website पर जाएंगे तो
04:00इन्होंने अपना mission साफ शब्दों में लिखा है.
04:07इस company को बनाने के पीछे कई बड़े
04:09Tech Entrepreneurs का हाथ था जिन में
04:11Sam Altman और Elon Musk का भी नाम आता है.
04:13टोटल में करीब 10 co-founding members थे
04:15जिन में अभी के जो chief scientist है
04:17Ilya Sutskever और
04:19President है Open AI के
04:21Greg Brockman ये भी included थे.
04:23इन दोनों नामों को याद रखना यहाँ पर
04:25क्योंकि ये हमारी कहाणी में बहुत important role निभाते हैं.
04:27सभी co-founders ने मिलाकर
04:29टोटल में 1 billion dollars
04:31pledge किये थे Open AI को.
04:33साल 2019, company formation के
04:35करीब 4 साल बाद Sam Altman
04:37CEO बनते हैं Open AI के.
04:39और इस से करीब 4 साल बाद
04:4117 नवेंबर 2023 को
04:43company के board of directors अचानक से
04:45एक दिन fire कर देते हैं
04:47Sam को. ऐसी बड़ी companies में
04:49अगर आप नहीं जानतें दोस्तो, एक board of directors
04:51होता है, जिनके बास ज्यादधर cases में
04:53पावर होती है कि वो
04:55CEO को fire कर सकें और hire कर सकें.
04:57Rules के अनुसार ये एक normal चीज है
04:59board of directors के पास इतनी पावर होना.
05:01Open AI के इस board में 6 members थे.
05:033 के नाम तो मैं आपको
05:05अलड़ी बता चुका हूँ, एक Sam खुद थे,
05:07दूसरे Ilya, तीसरे Greg,
05:09और बाकी 3 independent executives थे.
05:11एक Quora के CEO थे Adam,
05:13एक Tech Entrepreneur Tasha Macaulay
05:15और एक Helen Toner. किसी भी decision तक
05:17पहुँचने के लिए majority voting चुइए,
05:19और obvious ही बात है Sam खुद को तो fire करेंगे नहीं,
05:21तो बचे सिरफ 5 लोग.
05:23दूसरी चीज यहाँ पर यह है कि Sam को fire करने के साथ साथ,
05:26board of directors ने Greg को भी board से निकाल दिया.
05:29तो Greg ने भी Sam के खिलाब vote नहीं किया होगा.
05:32बचे 4 लोग थे.
05:34Ilya, Adam, Tasha और Helen, ये वो 4 लोग थे
05:36जिन्नों ने Sam को
05:38एक Google meet call के जरीए inform किया
05:40कि उन्हें fire किया जा रहा है.
05:42क्या कारण था fire करने के पीछे?
05:44Publicly ज्यादा कुछ बताया नहीं गया.
05:46Board ने कहा कि Sam जो बातचीत करते थे
05:48हमारे साथ वो खुलकर नहीं करते थे.
05:50उनका communication clear नहीं था.
05:52ये इशारा करते हुए कि वो कुछ चीजे छुपा रहे थे हमसे.
05:54Company से निकाले जाने के बाद
05:56ना तो Sam ने, ना ही Greg ने
05:58कोई statement दी कि उन्हें क्यों निकाला गया?
06:00उन्होंने बस Twitter पर जाकर
06:02लोगों को कहा कि वो बड़े disappointed
06:04फिल करते हैं इसके बारे में.
06:06ये फैसला टेक की दुनिया में बहुत shocking था.
06:08ऐसे कैसे हो सकता है कि इतने powerful
06:10और influential CEO को चार board
06:12members मिलके, company से बाहर निकाल दे अचानक से.
06:14क्या असली कारण था
06:16जो दुनिया से छुपाया जा रहा था?
06:18मैंने आपको शुरू में बताया था कि OpenAI को
06:20एक non-profit company के तौर पर
06:22found किया गया था. ये चीज
06:24बड़ी अनोखी है और बड़ी important है.
06:26क्योंकि Silicon Valley में जितनी भी और
06:28popular companies हैं, वो सब
06:30for-profit हैं. Facebook,
06:32Meta, Google, Microsoft, Apple, ये
06:34सभी companies अपने products बनाती हैं,
06:36अपनी services बेचती हैं,
06:38पैसे कमाने के लिए. और इनका main मकसद यहाँ
06:40पर पैसा कमाना है. लेकिन
06:42OpenAI का main मकसद था,
06:44इंसानों के benefit के लिए,
06:46एक AGI बनाना. ये एक
06:48research facility ज्यादा थी.
06:50OpenAI के charter में ये तक लिखा गया था
06:52कि company की duty, humanity
06:54की ओर है. ना की investors की
06:56ओर, ना ही employees की ओर.
06:58लेकिन ये non-profit वाला model,
07:00अफसोस, ज्यादा दिन तक चला नहीं.
07:022019, जिस साल
07:04Sam Altman, CEO बने OpenAI के,
07:06उसी साल OpenAI ने
07:08subsidiary company बनाई अपनी.
07:10इस subsidiary company को
07:12for-profit रखा गया. इसका
07:14नाम OpenAI Global LLC.
07:16और ये subsidiary company
07:18capped profits के model पर काम
07:20करती है. Capped मतलब, एक
07:22limit तक profit कमाये जाएगा.
07:24ये limit है, 100 times the
07:26investment. तो जो भी investors इस
07:28for-profit company में अपना पैसा लगाएंगे,
07:30उन्हें maximum 100 times return
07:32मिल सकता है अपनी investment का. और अगर उससे
07:34भी ज्यादा profit कमाती है ये company,
07:36तो वो सारा profit, इस
07:38non-profit main company में चले जाएगा.
07:40OpenAI was actually
07:42started and it was meant to be open source.
07:44I named it
07:46OpenAI after open source.
07:48It is in fact closed
07:50source. It should be
07:52renamed super closed source for maximum
07:54profit AI.
07:562019 में
07:58इस for-profit subsidiary
08:00company को अपनी पहली और सबसे बड़ी
08:02funding मिलती है Microsoft से.
08:04$1 Billion Microsoft
08:06invest करता है इसे. लेकिन अगले
08:08चार सालों में जैसे ऐसे popularity बढ़ती
08:10गई इस company की, टोटल में
08:12$13 Billion की investments
08:14इस subsidiary company raise कर चुकी है.
08:16आज के दिन बताया जाता है कि
08:18Microsoft के पास 49%
08:20stake है OpenAI की
08:22for-profit subsidiary का.
08:24Microsoft की बात आगे करते हैं लेकिन उस से पहले ये भी
08:26समझना जरूरी है कि जब ये for-profit
08:28subsidiary बनाए गई तो ये भी कहा गया
08:30कि इस company का जो control है
08:32वो अभी भी non-profit
08:34OpenAI main company के पास रहेगा.
08:36लेकिन इन सारी conflicting argument से
08:38एक बहुत बड़ा सवाल आख़डा हुआ.
08:40आखिर कितना काम for-profit
08:42किया जाए और कितना काम
08:44non-profit रखा जाए. और जब इस
08:46AGI का अविशकार किया जाएगा तो इस AGI को
08:48किस हद तक for-profit रखा जाए, किस हद
08:50तक non-profit रखा जाए.
08:52अगर सब चीज़े for-profit बन गई तो
08:54एक बहुत हाणिकारक प्रभाव पड़ सकता है
08:56इसका दुनिया पर. इसका सबसे अच्छा
08:58example फेस्बुक ही है.
09:00फेस्बुक के एलगोरिथम्स ने हर चीज़ को सिरफ
09:02अपने profit के लिए उप्टिमाइस किया.
09:04फिर चाहे लोगों को mental health issues हो,
09:06लोगों को addiction हो, लोग
09:24दो साल पहले एक facebook papers का खुलासा हुआ था
09:26जिसकी बात मैंने इस वीडियो में करी थी.
09:28यही डर कुछ लोगों को
09:30AI को ले कर भी है.
09:32Sam को fire किये जाने से पहले open AI में
09:34काम करने वाले कुछ researchers ने
09:36insiders के अनुसार एक चिठ्ठी लिखी थी
09:38open AI के board को.
09:40इसे में लिखा गया था कि जो Q-STAR
09:42AI ये develop कर रहे हैं,
09:44वो AGI के करीब पहुचने में
09:46एक बहुत बड़ा कदम हो सकता है.
09:48और Q-STAR की इसी potential को
09:50लेकर इन्हें चिंता है.
09:52इस Q-STAR की मदद से exactly क्या-क्या
09:54करना possible है, ये बात तो
09:56सिर्फ company में काम करने वाले researchers
09:59लेकिन conceptually बात करी जाये,
10:01तो Q-STAR AI के अंदर भी एक concept होता है,
10:03reinforcement learning की field में.
10:05Reinforcement learning क्या है,
10:07ये basically AI को train कराने का
10:09एक तरीका है.
10:11बार-बार AI को human feedback दिया जाये,
10:13ता कि AI सीखता रहे,
10:15अपनी environment को बहतर समझता रहे,
10:17और धीरे-धीरे बहतर decisions
10:19लेता रहे.
10:21जो ने मेरा chatGPT वाला course complete किया है,
10:23वो लोग जानते होंगे इसके बारे में,
10:25और जिन लोगों ने नहीं किया है, उनके लिए बता दू,
10:27मैंने एक पूरा 4.5 घंटे का course बनाया है,
10:29chatGPT के उपर, जिसमें theory और practical
10:31दोनों हैं, जिसमें मैंने सिखाया है,
10:33कि कैसे आप AI का अपने फायदे के लिए इस्तिमाल कर सकते हैं,
10:36अपनी जिंदगी को, अपने करियर को,
10:38next level पर ले जाने के लिए.
10:406 chapters हैं course में,
10:41पहले chapter में मैंने reinforcement learning
10:43जैसी techniques के basic समझाएं हैं,
10:45दूसरे chapter में prompt engineering,
10:47tokens और chatGPT के पीछे की
10:50उसे समझाया है.
10:51लेकिन ये तीसरे chapter से आप realize करोगे,
10:53कि ये तो एक ऐसा tool है,
10:54जिसे हर दिन इस्तिमाल करना चाहिए.
10:56Exams की पढ़ाई करनी है,
10:572-3 गुना ज्यादा efficient तरीके से पढ़ाई हो सकती है.
11:01Motivation चाहिए, यहां से मिल सकता है.
11:03किसी भी चीज में advice चाहिए, chatGPT दे सकता है.
11:06Fourth chapter, daily life uses पर focus करता है,
11:08जैसे कि अगर आपको कहीं बाहर घूमने जाना है,
11:10उसके लिए travel planning करनी है,
11:12तो travel agent पर पैसे बरबात करना बंद किजी.
11:14यह सारा काम travel agent का chatGPT आपके लिए free में करके दे सकता है.
11:18Food और diet की planning है, यह भी काम करके दे सकता है.
11:21Fifth chapter मेरा personal favourite है, क्योंकि वो business owners पर focus करता है.
11:25जैसे आप अपने business में sales बढ़ाने के लिए,
11:27customer feedback handle करने के लिए,
11:29business की marketing के लिए इसका इस्तिमाल कर सकते हैं.
11:31यही कारण है कि मैं खुद भी daily chatGPT का इस्तिमाल करता हूँ,
11:36इससे कितनी बढ़ गई है, आप यखिन नहीं करोगे.
11:38और यह पूरा course जो है, यह one time purchase है,
11:40lifetime आप इन videos को कभी भी देख सकते हो.
11:43और एक और अच्छी ख़बर देना चाहूंगा,
11:45क्योंकि यह technology इतनी तेजी से improve हो रही है.
11:48आप मेंसे जिन लोगों ने अभी तक इसे join नहीं किया है,
11:59उनके लिए link इस QR code में है,
12:01या फिर link नीचे description और pinned comment में भी मिल जाएगा.
12:04Coupon code इस्तिमाल कीजिए AGI40, 40% off पाने के लिए.
12:09यह आप मेंसे पहले 400 लोगों के लिए applicable होगी.
12:12तो जाकर चेक करके देख सकते हैं, मुझे पूरा यकीन है आपको यह बहुत useful लगेगा.
12:16अब Q star पर वापस आएं, तो Q star एक Q value function से नाम आता है.
12:21यह function कुछ इस तरीके से लिखा जाता है.
12:23Q bracket S, A. S का मतलब है state और A का मतलब है action.
12:30Q star एक ऐसा function है जो सबसे optimal point को represent करता है.
12:34Example से समझाता हूँ, मानलो आप chess खेल रहे हो, आपका सिपाही chess board में किसी एक square पर,
12:39किसी एक position पर खड़ा हुआ है, तो जहां वो खड़ा है, उसे state S कहा जाएगा.
12:44जो अगली move आप chess में चलना चाहते हो, उसे action A कहा जाएगा.
12:48इसका Q value function जो है, वो सारे possible scenarios को predict करेगा.
12:53कि आप जब कोई move चलोगे, तो उसके बाद क्या-क्या हो सकता है.
12:56इसकी analysis करके एक best possible move बताई जाएगी, आपकी position की according.
13:01इस Q value function से निकली ये best और सबसे optimal move को ही, maths की भाषा में Q star बोलते हैं.
13:08यानि इस chess के game में best move कौन सी है, किसी भी situation में आपके चलने के लिए.
13:13अब chess board का तो मैंने आपर सिर्फ एक example लिया था.
13:16लेकिन सोच कर देखो अगर यही चीज दुनिया में किसी भी चीज के लिए करी जा सके.
13:20जैसे कि अगर आप highway पर गाड़ी drive कर रहे हो और AI आसपास मौझूद सभी गाड़ियों की speeds predict कर सके, उनके driving styles देख सके,
13:28एक analysis कर सके कि potentially वो सारी गाड़ियां कैसे जाएंगी अगले 1-2 second में और उसके basis पे आपको best possible driving instruction दे सके.
13:37या फिर किसी election से पहले Q-Star AI हर possible scenario का एक analysis कर सके और election के results predict कर पाए तो.
13:45अगर एसी काबिलियत Open AI के इस रहस्य में Q-Star AI में है तो वो काफी हद तक future को predict कर सकता है.
13:52जो Mission Impossible की फिल्म में दिखाया था शायद वही चीज करी जा सकती है.
13:55इंसानों के thought patterns को predict करना, किसी भी movement में सारे possible decisions की analysis करना,
14:01ये accurately predict कर पाना कि कोई इंसान किसी situation में कैसे फैसले लेगा.
14:06Business deals से लेकर political moves तक सब को influence करने की शमता हो सकती है इस Q-Star के पास.
14:13ये चीजे कुछ हद तक इंसान भी कर पाते हैं, लेकिन AGI इंसानों से भी next level पर जा सकता है.
14:19क्योंकि इंसानों के अपने biases होते हैं, इंसान emotional होते हैं, उन emotions के basis पे अपने फैसले लेते हैं.
14:25लेकिन AI यहाँ पर अपनी predictions करेगा सिर्फ और सिर्फ mathematics के basis पर.
14:30इंचेस के गेम में सारी possible moves की analysis करने के बाद, आपको सबसे optimal move बताई जाएं.
14:36ये AI सबसे accurate prediction दे पाएगा.
14:39अभी का chat, GPT, writing और language translation बढ़े अच्छे से कर पाता है, next words predict करके.
14:45लेकिन अगर Q-value learning इस AI में डाली जाएगी, तो सवालों के जवाब हमें सबसे optimal तरीके से मिलेंगे.
14:52किसी भी सवाल का सबसे optimal जवाब हमें मिलेगा.
14:55ये सिर्फ कुछ अंदाजा है जो हम लगा सकते हैं इस mysterious Q-star AI को लेकर.
15:00लेकिन असलियत में सिर्फ Open AI में काम करने वाले लोगी जानते हैं कि कितना progress यहाँ पर हुआ है और वो AGI के कितने करीब हैं.
15:08जिन लोगों ने खत्रे की घंटी बजाई थी Q-star को लेकर उन लोगों का डर यही था कि कहीं हम गलत दिशा में तो नहीं जा रहे हैं.
15:15कहीं इससे नुखसान जो होगा इंसानियत को वो ज्यादा तो नहीं फायदे के comparison में.
15:20Even though board of directors ने एक बड़ा वेग सा reason दिया था Sam को fire करने का, actual reason यहाँ पर दो अलग-अलग विचारधारा थी.
15:27Open AI के अंदर एक विचारधारा है for profit की, जो commercialization को represent करती है.
15:33और दूसरी इस non-profit group की विचारधारा है, जिनने ज्यादा डर है इस technology को लेकर.
15:38दोनों मेंसे कौन सी side यहाँ पर सही है? यह अपने आप में एक debate का मुददा है.
15:42जो लोग for profit वाली side को favour करते हैं, उनका कहना है कि अगर हमें और बहतर technology develop करनी है, तो उसके लिए बहुत सारे पैसे की जरुवत होगी.
15:51Investor का पैसा चाहिए होगा, जिसके बिना ये करना possible ही नहीं होगा.
15:55और जो लोग non-profit की side पर हैं, उनका कहना है कि profit की जो ideology है, वो अमारी original विचारधारा को खतम कर सकती है और एक बड़ा खत्रा बन सकती है इंसानियत के लिए.
16:05इस पूरी controversy के शुरू होने से कुछ दिन पहले Microsoft के President Brad Smith ने 10 November को एक conference में कहा था.
16:12आपको किस पर ज्यादा भरोसा है? अगर आपकी technology एक non-profit company से आये या फिर एक for-profit company से आये जिसे सिर्फ एक इंसान के दोरा control किया जा रहा है.
16:22यहाँ पर यह indirectly इशारा कर रहे थे Mark Zuckerberg पर.
16:25लेकिन Open AI में खुद दोनों sides के बीच में यह जो balance था. यह काफी time से बिगड़ते जा रहा था.
16:31February 2023 में पहली बार ChatGPT का paid version निकाला गया ChatGPT+.
16:36अगले महिने, 1st March को एक API यानि Application Programming Interface लॉंच किया गया.
16:42ताकि बाकी और companies ChatGPT को integrate कर सकें.
16:46इसके बाद 14 March को GPT 4 का launch किया जाता है.
16:49Employees का कहना था कि यह जो hyper commercialization पिछले कुछ महिनों में देखी गई Open AI की तरफ से.
16:55इसकी वजए से एक दरार बनती गई इन दोनों sides के बीच में.
16:59ChatGPT के release होने के बाद यहाँ पर एक clear रस्ता दिख रहा था revenue और profit का.
17:04हम एक idealistic research lab बन कर नहीं रह सकते थे.
17:07हमारे customers थे और उन customers को serve करना ज़रूरी था.
17:11October 2023 में Open AI अपना powerful image generator DALI 3 लॉंच करता है.
17:16इसे ChatGPT के paid versions के साथ combine किया जाता है.
17:20और इसके बाद 6 November को होती है company की पहली developer conference.
17:33इस conference में Sam एक presentation देते हैं जनता के सामने.
17:36बिल्कुल उस तरीके से जैसे कोई Apple या Google की presentation हो.
17:40यहाँ बताय जाता है कि अब ChatGPT के custom build model भी बना सकते हैं आप.
17:45अब दिया जाता है GPTs कि अब एक ChatGPT नहीं बलकि customized धेर सारे अलग-अलग GPTs हैं.
17:52इन सब की detail में बात कोर्स के update में करेंगे लेकिन
17:55यहाँ पर हो क्या रहा था जैसे-इसे एक commercialization बढ़ रही थी.
17:59एक side थी Sam और President Greg की जो उस commercialization को encourage कर रहे थे.
18:04लेकिन दूसरी side थी Chief Scientist इलिया की जो काफी uncomfortable फिल कर रहे थे इससे.
18:09इलिया AI safety को लेकर बहुत obsessed हो चुके थे.
18:12उन्होंने एक time पर अपने employees को कहा था कि इन्हें डर है कि AGI systems इंसानों को उसी तरीके से treat करेंगे
18:20जिस तरीके से इंसान आज के दिन जानवरों को treat करते हैं.
18:23इलिया के अनुसार AGI ज्यादा दूर नहीं है.
18:26हमें आने वाले सालों में AGI बहुत जल देखने को मिलेगा.
18:30और हम सब को उसके लिए prepared रहना होगा.
18:34जुलाई के महिने में Open AI अनौन्स करता है
18:36कि इनकी एक नई super alignment team बनाई जाएगी
18:39जो AI safety techniques पर focus करेगी.
18:42इस team को लीड करने वाले खुद इलिया.
18:45Company decides करती है कि करी 20% computer chips
18:48जो company के पास अभी है, उन्हें सिर्फ इस काम के लिए dedicate किया जाएगा.
18:53August-September तक आते आते ये चीज़ काफी clear हो चुकी थी
18:56कि company के अंदर दो अलग-अलग groups बट चुके थे
18:59जो opposite directions में काम कर रहे थे.
19:02Sam बात कर रहे थे कि next कौन सी नई बड़ी चीज़ launch करी जाएगी.
19:06GPT-4 के बाद GPT-5 की बाते कर रहे थे वो.
19:09इस सब का नतीजा ये हुआ कि बागई जो चार board of directors थे open AI के,
19:13वो ILYA की sides ज्यादा थे.
19:15जब उन्हें छिठी मिली कि अपटी डिरेक्शंस में काम कर रहे थे,
19:18इस सब का नतीजा ये हुआ कि बाग़ी जो चार board of directors थे open AI के,
19:22वो ILYA की sides ज्यादा थे.
19:25सैम को फायर करने के बाद board अनॉंस करता है कि नई CEO कमपनी की बनेंगी,
19:29मीरा मुराटी, पर आपको प्रेकॉशिन्स थे,
19:32जो बाग़ी जो चार board of directors थे open AI के,
19:35वो ILYA की sides ज्यादा थे.
19:37जब उन्हें छिठी मिली कि एक बहुत ही powerful Q-star का अविशकार हो गया है,
19:42तो उन्होंने समझा कि for profit वाला जो section है,
19:45उसे company से बाहर निकालना ही फायदे मंध होगा.
19:48सैम को फायर करने के बाद board अनॉंस करता है कि नई CEO कमपनी की बनेंगी,
19:52मीरा मुराटी, ये interim CEO की तौर पर काम करेंगी,
19:56और ये बात थी 17th नवेंबर की.
19:59लेकिन 19th नवेंबर सुभए तक,
20:02कमपनी की employees ने हला मचाना शुरू कर दिया था.
20:05जियादधर employees कमपनी के actually में सैम की side पर थे.
20:09Microsoft भी यहाँ पर एक बड़ी अजीब position में था,
20:11क्योंकि उनके पास 49% stake था for profit सब्सिडरी का,
20:16तो वो भी नहीं चाहता था,
20:17कि यहाँ पर यह company बिखर जाए.
20:19Microsoft pressure बना रहा था board के उपर,
20:22कि वापस सैम को CEO बनाय जाए.
20:2419th नवेंबर को board और सैम के बीच में
20:26कुछ negotiations होती हैं,
20:27जहाँ पर सैम guest पास पहन कर
20:29Open AI की office में जाते हैं.
20:31लोगों लग रहा था,
20:33लेकिन वो होता नहीं है.
20:35अगले दिन Open AI अनॉंस करता है,
20:37कि पुराने Twitch के CEO,
20:39M.S. Sher,
20:40नए CEO बन गए हैं Open AI के.
20:42सेम दिन Microsoft के CEO,
20:44सत्या नेडेला,
20:45इंफॉर्म करते हैं,
20:46कि इनकी company एक नई advanced AI research team बनाएगी,
20:50और सैम और ग्रेग उस team को lead करेंगे.
20:53सत्या नेडेला की इस move की वजए से,
20:55Microsoft का stock price record high पहुँच जाता है.
20:58लेकिन सवाल यह उठने लगता है,
21:00कि Open AI के जो CEO है,
21:02M.S. Sher,
21:03वो क्या करेंगे?
21:06क्योंकि ख़वर में आता है,
21:07कि company के 770 employees में से,
21:10743 ने एक चिठ्ठी लिखी है,
21:13यह कहते हुए,
21:14कि अगर Sam और Greg वापस नहीं आये हमारी company में,
21:17तो हम भी resign कर देंगे.
21:19यानि 90% से ज्यादा employees धंकी देते हैं,
21:22कि वो company छोड़ देंगे.
21:23इस चिठ्ठी को साइन करने वाली सबसे पहली,
21:25मीरा मुराटी खुद होती है.
21:27और फिर एक tweets की बोचार देखने को मिलती है,
21:30धेर सारे employees बार-बार tweet करते हैं,
21:32Open AI is nothing without its people.
21:35यह बात सही है,
21:36जब company इसके CEO को ही fire कर दिया जाए,
21:38और 90% employees ही चले गए,
21:40तो company किस काम की बची?
21:42फिर आता है इस कहानी का सबसे बड़ा twist,
21:44इलिया खुद इस चिठ्ठी पर sign करते हैं,
21:47और tweet करते हैं.
21:48यानि इलिया भी इस बात को realize कर जाते हैं,
21:51कि अगर company ही नहीं बचेगी,
21:52तो कौन सी safety precautions ली जाएंगी?
21:55इसका नतीजा ये,
21:56कि अब तीन co-founders Open AI के एक side पर आ जाते हैं,
22:00Sam, Ilya और Greg.
22:01बाकि तीन independent board members अपनी बात पर डटे रहते हैं.
22:04देकिन फिर, जो नए CEO बने हैं company के,
22:07Ahmed, वो भी धंकी देते हैं resign करने की.
22:10वो कहते हैं,
22:11कि अगर मुझे reason नहीं बताया गया,
22:13कि Sam को क्यों company से निकाला गया,
22:15तो मैं भी resign कर दूँगा.
22:16इस सब के बाद ये चीज़ बड़ी clear थी,
22:18कि और कोई option बचा नहीं था.
22:20तो 21 नवेंबर को,
22:22Sam को वापस company में बुला दिया जाता है,
22:24और वापस से Sam,
22:26Open AI के CEO बन जाते हैं.
22:28एंड में ये तीनो board members,
22:30एक तरफ रह गए थे,
22:31और दूसरी तरफ थे,
22:32कॉंपनी के CEO, co-founders,
22:34और बाकि सारे employees.
22:36Sam के वापस आने के बाद,
22:37इन तीन में से दो board members को फायर कर दिया जाता है.
22:40सिरफ Adam D'Angelo,
22:42इकलोते exception बचते हैं.
22:44दोनों औरते थी board members से जाने वाली,
22:46और दो नए members add किये जाते हैं board पर.
22:49Brett Taylor,
22:50जो कि former co-CEO रहे हैं sales force के,
22:52और Larry Summers,
22:54जो कि former secretary of the treasury रहे हैं.
22:56इस नए board को सबसे पहला काम दिया गया है,
22:59कि एक बड़ा board appoint किया जाए,
23:01जिसमें 9 लोग हो.
23:02Sam का इसके बाद tweet आता है,
23:04कि I love OpenAI.
23:05जो भी मैंने पिछले कुछ दिनों में किया है,
23:07वो इस team को साथ रखने के लिए किया है,
23:10अपने mission पर आगे चलने के लिए किया है.
23:13जब मैंने कहा था,
23:14कि मैं Microsoft की नए team को join करूँगा,
23:16तब मुझे लगा था,
23:17कि वही मेरा रास्ता होगा.
23:18लेकिन आब OpenAI में वापस आकर मैं खुश हूँ,
23:21और हमारे नए board को सत्या का भी support है.
23:24सत्या नदेला के perspective से यह situation ऐसी थी,
23:27कि कुछ भी हो यहाँ पर फायदा Microsoft का ही होगा.
23:30अगर OpenAI company survive नहीं करती,
23:32तो एक नए department जो Microsoft के अंदर ही बनाई गई थी,
23:36उसमें OpenAI के almost सारे employees होते,
23:39CEO और co-founders होते,
23:41वह वही काम वैसे ही करते रह सकते थे.
23:43लेकिन अब जो OpenAI company survive कर गई है,
23:46उनकी अलड़ी अच्छी partnership है Microsoft के साथ,
23:49तो वैसे ही Microsoft का फायदा है.
23:51सत्या नदेला की दरफ से tweet आता है,
23:55हमारा मानना है कि यह पहली step है,
23:57और stable, well-informed और effective governance के लिए.
24:00यहाँ पर यह भी expect किया जा रहा है,
24:02कि सत्या नदेला खुद OpenAI के board member बन जाएंगी.
24:05यह company अभी के लिए पूरी तरीके से safe है,
24:08लेकिन सवाल यहाँ पर यह है,
24:10आने वाले टाइम में,
24:11OpenAI for profit की राहा पर ज्यादा मुट जाएगी,
24:14या फिर अपनी non-profit values को अभी भी बरकरार रखेगी.
24:18और इसका क्या impact पड़ेगा AGI की development पर?
24:22यह तो time ही बताएगा,
24:23लेकिन एक चीज जो for sure कहीं जा सकती है वो यह,
24:26कि AI कहीं जाने वाला नहीं है.
24:28Artificial Intelligence हमारी इस दुनिया का हिस्सा बन चुकी है.
24:32और जितनी जल्दी आप इसे इस्तिमाल करना सीखेंगे,
24:34उतना ही आसान होगा आपके लिए इस बदलती दुनिया में आगे रहना.
24:39Course का link नीचे description में मिल जाएगा,
24:41और अब आप अगर समझना चाहते हैं
24:43कि दुनिया कैसे बदल रही है AI के आने से,
24:46इस चीज को मैंने इस वीडियो में explain किया है,
24:49यहाँ क्लिक करके देख सकते हैं, बहुत-बहुत धन्यवाद.