مناقشة سام ألتمان والذكاء الاصطناعي

قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، مؤخرًا، إن الوقت قد حان "لتسريع معدل تطوير الذكاء الاصطناعي" حتى يتمكن المجتمع من "التشدد حول بعض مستويات القدرة الجديدة هذه".

في أحدث حلقة من برنامج TechCrunch's Equity، ناقشت أنا وكيرستن كوروسيك وشون أوكين كيف أن تعليقات ألتمان ربما كانت مدفوعة باختراق حديث قام فيه أحد عملاء OpenAI باختراق أنظمة Hugging Face. وأشار شون إلى أنه على الرغم من أن عملية الاختراق التي يقوم بها أحد عملاء الذكاء الاصطناعي تعتبر أمرًا جديدًا، إلا أن الاختراق في حد ذاته لم يكن "شيئًا متقدمًا جديدًا".

قال شون: "لقد كان الأمر أشبه باقتحام فريق نيكسون ووترجيت أكثر من كونه عملية سيبرانية خفية حقيقية، لأنه لم يكن من الضروري أن يحدث ذلك، ولم يتم توجيهه للقيام بذلك". "نأمل أن تكون هذه علامة على أن هذه الشركات ستمضي قدماً بهذا الأمر وستكون أكثر حذراً بشأن هذه الأشياء."

أعطتني تعليقات ألتمان أيضًا فرصة للتساؤل عن مدى فائدة الجدل حول التسارع مقابل التباطؤ، لأنه (نعم، أنا على وشك الاقتباس من كلامي) فإن التأطير "يشير إلى أن هناك مسارًا واحدًا فقط" و"كل ما علينا أن نقرره - بقدر ما يمكننا اتخاذ القرار على الإطلاق - هو، هل نسرع ​​أم نتباطأ؟"

استمر في القراءة للحصول على معاينة لمحادثتنا، والتي تم تعديلها من أجل الطول والوضوح.

شون أوكين: ربما وصلنا أخيرًا إلى نقطة انعطاف هنا. أعتقد أن الدافع الرئيسي وراء ذلك هو ما تحدثنا عنه الأسبوع الماضي، حيث قام أحد نماذج OpenAI باختراق بيانات Hugging Face واختراق بعض الأشياء الأخرى عبر الإنترنت أيضًا.

لا يدعو [ألتمان] إلى التوقف مؤقتًا، كما رأينا بعض الأشخاص في صناعة التكنولوجيا يحاولون القيام بذلك في الماضي. لقد كان حذرًا جدًا في كلماته وقال: "سرعها". وسنرى كيف سيتم هذا. إن أي تحذير نرى بعض هذه المختبرات تتخلى عنه غالبًا ما يتم عكسه عندما تدفعها الحوافز إلى الأمام لاستئناف عملها بأقصى سرعة. لذلك أظل متشككًا، وهذه مفاجأة كبيرة.

كيرستن كوروسيك: الآن سأقول هذا - ربما كان [ألتمان] حذرًا في كلماته، لكن OpenAI وAnthropic قامتا [بدعم] عريضة تعكس ما تحدث عنه بالفعل.

وأنا أتفق معك، أعتقد أن الكثير من هذا كان سببه عناق الوجه. ربما أخافه وبالتأكيد الكثير من الناس في هذه الصناعة. الأمر الصعب هنا هو: كيف يمكنك ربط الإبرة أو كيف تقوم OpenAI بربط إبرة الاستمرار في توليد الإيرادات، أو جمع الأموال، أو إجراء طرح عام أولي ناجح، واقتباس عبارة "وتيرة التطوير" بدون علامتي الاقتباس.

لا أعرف إذا كان بإمكانهم فعل ذلك. سأكون فضوليًا لمعرفة ما إذا كانوا يديرون كليهما.

أنتوني ها: أحد الأشياء التي كنت أتصارع معها هو أيضًا هذا السؤال: هل التسارع [مقابل] التباطؤ هو الإطار الصحيح للتفكير في هذا الأمر؟ لأنه يشير نوعًا ما إلى أن هناك طريقًا واحدًا فقط وأننا جميعًا عالقون في هذا المسار. كل ما علينا أن نقرره - بقدر ما يمكننا أن نقرر على الإطلاق - هو، هل نسرع ​​أم نتباطأ؟ على النقيض من - مرة أخرى، سأعذب هذه الاستعارة حقًا - لكن هل نبني حواجز حماية مختلفة؟ هل نختار مسارات مختلفة؟

أنا فقط مقاوم جدًا لهذا الإطار. بدلاً من القول: "حسناً، إذا لم نكن سعداء بما تفعله النماذج الآن، فماذا يمكننا أن نفعل؟ هل التباطؤ، أو التوقف المؤقت، أو التوقف، هو الخيار الوحيد؟" وأنا لا أعتقد أنه كذلك.

شيء واحد أردت التأكيد عليه مرة أخرى، لأنه كان من المثير للاهتمام حقًا رؤية مستوى القلق حول هذا - هذا الشعور، "ماذا لو كان لدينا هؤلاء العملاء المستقلون والنماذج يركضون حول اختراق بعضهم البعض، في محاولة لمنع الاختراقات، كل هذا يخرج عن سيطرتنا،" مما يؤدي إلى كل هذه المناقشات الأوسع حول المواءمة التي كتبت عنها ريبيكا بيلان بشكل رائع.

ولكن من المفيد العودة إلى إحدى النقاط التي كتبنا عنها أيضًا في TechCrunch، وهي أن هذا الاختراق المحدد - نعم، كان سببه نموذج OpenAI، ولكن يبدو أنهم لم يقوموا بتأمين موقع الاختبار بشكل صحيح. من الناحية النظرية، لا ينبغي أن يكون هذا النموذج قادرًا على الوصول إلى الإنترنت. الآن، بالطبع، إذا كان لديك نظام ذكاء اصطناعي قوي ومنحرف، فإن مخاطر هذا الخطأ البشري ترتفع بشكل كبير. لكن الأمر يبدأ من مجرد حقيقة أنهم لم يؤمنوا الأشياء بالطريقة التي ينبغي لهم القيام بها.

شون: أعتقد أن هذا صحيح. أعتقد أن وجهة نظرك مفهومة جيدًا، إذ لا ينبغي لنا أن نفكر في هذا الأمر بطريقة خطية فحسب وما إذا كانت الأمور تتسارع أم تتباطأ. هناك الكثير مما يمكن وينبغي أن يقال عن مدى مسؤولية هذه الشركات. كما كتب لورينزو، أحد زملائنا، مقالًا جيدًا حقًا يشرح فيه مدى جدية الباحثين الأمنيين الذين يهتمون بهذه الأشياء في اعتقادهم بأن الاختراق كان حقيقيًا. يبدو حقًا أنه، على جانبي هذا الاختراق، كانت هناك خطوات ربما كان ينبغي اتخاذها لمنعه.

وأحد الأشياء التي وجدتها أكثر إثارة للاهتمام في تلك القصة هو أن بعض الباحثين كانوا يشيرون إلى أن ما فعله هذا النموذج لم يكن شيئًا متقدمًا جديدًا. لقد كان حقًا إنسانيًا جدًا في الطريقة التي فكر بها في محاولة اقتحام المحاولة - ليس التجسيم، ولكن الطريقة التي فكر بها في اقتحام وجه معانق، وكان أيضًا صاخبًا جدًا وفوضويًا ولم يكن يحاول حقًا إخفاء آثاره. لقد كان الأمر أشبه بفريق نيكسون الذي اقتحم فضيحة ووترجيت أكثر من كونه عملية سيبرانية خفية حقيقية، لأنه لم يكن من الضروري أن يحدث ذلك، ولم يتم توجيهه للقيام بذلك.

وكان ينبغي أن يكون من الممكن الوقاية من ذلك بسهولة أكبر. ونأمل أن تكون هذه علامة على أن هذه الشركات ستمضي قدمًا في هذا الأمر وستكون أكثر حرصًا بشأن هذه الأشياء.

سأقول شيئًا آخر حول [نقاش] التسارع مقابل الإلغاء. لا أعرف ما إذا كان هذا هو الدافع، لكنك ذكرت الاكتتاب العام، كيرستن. أعتقد أنه من الذكاء أن يتمكن Altman من تعزيز هذه الميزة التي يتمتعون بها الآن، وهي أن [OpenAI] لن تصل إلى الأسواق في الشهر المقبل، أو بعد شهرين من الآن. لقد طرح فكرة الذهاب في عام 2027 وأنهم قدموا ملفهم السري فقط حتى يكون لديهم الخيار جاهزًا عندما يكونون جاهزين.

لذا، إذا كنت تصدق كل ذلك، فهو لديه القدرة على التحدث عن هذا الحديث بطريقة لا تستطيع أنثروبيك القيام بها، لأن أنثروبيك تجري بالفعل محادثة مع الكثير من المصرفيين وتتجه نحو طرح عام أولي على المدى القريب، وبالتالي فهي أكثر تقييدًا فيما يمكن أن تقوله وكيف ينبغي أن تقوله وكيف سيتفاعل السوق مع ذلك.