GitHub تسرد موارد تبسيط تعلم CUDA

موجة من موارد CUDA المجتمعية المنسقة

ألقى مستخدمو Hacker News الضوء على ثلاثة مستودعات جديدة تجمع مواد تعلم CUDA، وأمثلة شفرة GPGPU، ومنظور جديد على طبقات PyTorch. قائمة “awesome-cuda-books”، التي تم نشرها على HN بـ 104 نقاط و 21 تعليقًا، تجمع الكتب والبرامج التعليمية وأوراق الغش المتاحة للجمهور لمطورين CUDA. يضيف لها شريكها، “awesome-gpgpu”، أسطورة ملونة ترمز للمشاريع التي لا تزال نشطة، والتي تبطئ، والتي تم أرشفتها. تعيش كلتا القائمتين على GitHub وتدعو المساهمين إلى الحفاظ على الفهارس محدثة.

Attorch يظهر كيفية استبدال Triton باللبنات المكتوبة يدويًا

قدم Show HN “Attorch”، إعادة تنفيذ Python الخالص لـ PyTorch’s nn وحدة التي تعمل على Triton لـ OpenAI. يأتي المشروع مع تبعيات فقط - torch==2.4.0 و triton==3.0.0 - ويدعي أنه استبدال سهل للعديد من الطبقات القياسية مع الحفاظ على قابلية القراءة للمطورين للعمل عليها. ينفذ Attorch التمريرات الأمامية والخلفية لطبقاته، مما يعني أنه يمكن استخدامه أثناء التدريب، وليس فقط الاستنتاج.

WoolyAI يعرض وقت تشغيله لتحويل ذاكرة GPU الخاملة إلى قدرة قابلة للاستخدام

أعلن آخر مشارك في Show HN عن طبقة تجريد CUDA الخاصة بـ WoolyAI، وقت تشغيل ديناميكي يشارك نوى GPU و VRAM عبر أحمال العمل المتنافسة. يتصل الأداة بخطوط تدريب و inference الحالية دون تغييرات في الشفرة، ويعد بـ “مزيد من الوظائف لكل GPU” وتخصيص حبيبات سياسات. يبيع WoolyAI وقت التشغيل كطريقة لاستعادة القدرة التي يتركها التخصيص الثابت لـ GPU غير مستغل.

أدوات طرفية مجانية لـ GPU تخفض حاجز الدخول لـ CUDA المبتدئين

أدخلت مشاركة أخرى في Show HN أداة سطر أوامر تعمل كوكيل لطلبات Google Gemini، مما يوفر وصولاً مجانيًا لـ GPU من طرفية. ي运行 المشروع خادمًا محليًا يترجم مكالمات OpenAI المتوافقة إلى استفسارات Gemini. يجب على المستخدمين تثبيت Gemini CLI ثم تشغيل الخادم باستخدام cgpu serve.

لماذا النظام البيئي يتحول نحو مكدسات GPU النمطية والقابلة للمشاركة

جميع المشاريع الأربعة تشترك في موضوع مشترك: إنها تعامل GPU ليس كمورد متجانس، ولكن ككتلة بناء يمكن إعادة هندستها على مستوى البرنامج. توفر القوائم المنسقة للمهندسين خريطة للمنطقة الحالية، مما يقلل الوقت الذي يقضونه في البحث عن برامج تعليمية محدثة. يُظهر Attorch أنه يمكن إعادة بناء أطر عمل عالية المستوى على أساس أدوات تجميع ناشئة مثل Triton، مما يوفر مسارًا أكثر شفافية إلى اللبنات المخصصة. يدفع WoolyAI فكرة أن تخصيص GPU يمكن أن يكون سائلاً، ويحول النوى الخاملة إلى عمل منتج. يظهر مشروع طرفية GPU المجانية أن حتى أغلى قطعة من الأجهزة يمكن تجريدها لأغراض التعلم.