מחברת שבבים לחברת פלטפורמות: השינוי של Nvidia, הפלטפורמות החדשות וה-Inception Program

בשנים האחרונות חברת Nvidia עוברת שינויים רבים, כבר לא מדובר ביצרנית החומרה שמייצרת כרטיסי מסך (GPUs) בעבור הגיימרים, מדובר בחברה המייצרת בעיקר פלטפורמות End To End בעבור מפתחי בינה מלאכותית (AI) ו-HPC. במסגרת השינויים שלה, ייסדה Nvidia את תכנית ה-Inception Program המטפחת סטארט-אפים העוסקים בבינה מלאכותית במגוון רחב של תחומים.

תכנית ה-Inception Program קיימת כ-3 שנים במהלכן הצטרפו אליה לא פחות מ-5,000 חברות סטארט-אפ מכל רחבי העולם כאשר כ-200 מהן, המהוות 4 אחוזים מכל החברות הנמצאות ב-Inception Program הן ישראליות. יש משהו מיוחד ב-Inception Program, לא בכדי חברות רבות מצטרפות מידי שנה ל-Inception Program. מדובר בתוכנית מיוחדת המעניקה לחברות המשתתפות בה גישה לקורסי ה-DLI של Nvidia, חשיפה עסקית נרחבת בכל רחבי העולם וכמובן גם הטמעה של טכנולוגיות ופלטפורמות של Nvidia לצד ייעוץ והכוונה בכל הקשור לפיתוח, אימון ושימוש בבינה מלאכותית.

liron friend nvidia inception
מתוך הרצאתה של לירון פריינד. צילום: טוני מלינקוביץ'

Inception Program

היום (ב' – 16.09.19) ערכה Nvidia Israel אירוע אשר חשף חברות רבות לתכנית ה-Inception Program וגם למגוון עצום ונרחב במיוחד של פלטפורמות וכלים אשר פותחו על ידי Nvidia ושותפותיה. האירוע נפתח על ידי נתי אמסטרדם, מנהל הפעילות של Nvidia בישראל ועל ידי לירון פריינד המנהלת את תחום קשרי המפתחים ב-Nvidia Israel. נתי ולירון הציגו בפנינו את תכנית ה-Inception כאשר המסר המרכזי והובלט הוא כי המטרה של Nvidia היא בראש ובראשונה לעזור לחברות סטארט-אפ לצמוח ולאו דווקא מטרה כלכלית.

החברות אשר נמצאות ומצטרפות לתכנית ה-Inception מקבלות למעשה מספר דברים, בראש ובראשונה נקודות קרדיט לקורסי ה-DLI של Nvidia המקנים ידע רב בתחום הבינה המלאכותית. עוד מקבלות החברות תמיכה מלאה בתחומים הטכנולוגיים, המומחים של Nvidia עוזרים לחברות הנמצאות בתוכנית להטמיע את הכלים והפלטפורמות של Nvidia ולייעל את הליך הפיתוח ואת הבינה המלאכותית של החברות עד כמה שניתן. Nvidia עוזרת לחברות גם ברמה העסקית ומפרסמת סיפורי לקוח באירועים מרכזיים כמו GTC, באתר החברה ובמקומות נוספים אשר חושפים את חברות הסטארט-אפ ללקוחות פוטנציאליים בכל רחבי העולם.

כבר לא חברת חומרה ושבבים

ofir zamir nvidia inception
מתוך הרצאתו של אופיר זמיר. צילום: טוני מלינקוביץ'

כפי שהזכרתי בתחילת הכתבה, Nvidia כבר לא אותה חברת השבבים שהייתה פעם ולמעשה Nvidia מייצרת פתרונות End To End בעבור מפתחים. לאחר ההצגה הראשונית של ה-Inception Program עלה לבמה אופיר זמיר, מנהל Solutions Architecture ב-Nvidia Israel והציג הצצה קטנה לפרוטפוליו הפתרונות העצום שיש ל-Nvidia. כמו כל פלטפורמת End To End מוצלחת, גם אלו של Nvidia מתחילות בחומרה ובמקרה של Nvidia הן מתחילות ב-CUDA, הארכיטקטורה הפופולרית והמוצלחת של Nvidia שעל גביה מתבססים יישומי AI רבים בכל רחבי העולם.

במשך השנים Nvidia שכללה את CUDA, הרחיבה אותה ושיפרה אותה מכל כיוון אפשרי יחד עם ארכיטקטורות GPU חדשות שיצאו במהלך השנים האחרונות. על גבי CUDA נשענות למעשה ספריות וגם Frameworks רבים מתחומי הבינה המלאכותית ביניהם PyTorch ו-TensorFlow. על מנת להבטיח אופטימיזציה מירבית Nvidia מחזיקה צוותים המונים יחדיו כמה מאות מפתחים אשר אחראים לעבוד אל מול החברות המפתחות Frameworks לבינה מלאכותית כאשר תפקידם של אותם הצוותים הוא לדאוג לאופטימיזציה והתאמה מירבית ל-CUDA. מדובר בתהליכים ייחודים המעניקים ל-Nvidia ולפלטפורמות שלה יתרון ענק.

Nvidia לקחה אפילו כמה צעדים קדימה והחל ממרץ 2019 היא החלה בביצוע בדיקות והתאמות של שרתים מיצרניות שונות לכל ה-AI Software stack ולחומרה שלה, כך קיימים בשוק שרתים רבים התומכים בצורה טובה ומלאה במגוון הכלים העצום של Nvidia. החברה גם מוכרת תחנות עבודה ושרתים משלה ממשפחת DGX המציעים טכנולוגיות ייחודיות וייעודיות של Nvidia כדוגמת ה-NVSwitch המסוגל לחבר ביחד 16 יחידות עיבוד מסוג GPU. במהלך הרצאתו הציג אופיר זמיר כיצד אותה החומרה בדיוק מציגה ביצועים שונים לגמרי בהפרשים של עשרות אחוזים כאשר ההבדל היחיד בין שתי הבדיקות הוא רמת האופטימיזציה.

ענן ה-NGC של Nvidia, פלטפורמת Rapids, פלטפורמת EGX ופלטפורמות רבות נוספות של Nvidia עוברות אופטימיזציה רבה והתאמה ל-CUDA ובכך למעשה מעניקות ביצועים גבוהים במיוחד עבור מפתחי בינה מלאכותית במגוון של שימושים, החל מהכנת המידע ועד לביצועי Infrence. חברות אשר יצטרפו ל-Inception Program יזכו להטמעה מלאה והדרכה בשימוש במגוון הכלים והפלטפורמות של Nvidia מה שיהווה עבורן יתרון משמעותי וחיסכון עצום בזמן ובמשאבים.

ייעול ניצול החומרה הוא משימה בפני עצמה

כשמדברים על פלטפורמות ואופטימיזציה מדברים הרבה גם על יעילות וניצול משאבים. במקרים רבים למרות השימוש בכלים של Nvidia חברות נתקלות בבעיית ניצול משאבים, הרבה פעמים ישנן חברות אשר חוות אחוזי ניצול נמוכים או לחילופין אחוזי ניצול גבוהים לצד ביצוע של משימות מעטות, זאת למרות שיש להן חומרה מהשורה הראשונה ואפילו ריבוי כרטיסי מסך.

ריבוי כרטיסי מסך, או בכלל הקצאה ושימוש של חומרה מכל סוג שהוא למשימות AI עשוי להיות הליך טריקי. מצד אחד, השאיפה היא שימוש בחומרה רבה ועתירת ביצועים תוך שמירה על אחוזי ניצול גבוהים אך מצד שני הרבה פעמים לא באמת בודקים לעומק מה עושה אותה החומרה בזמן בו היא אמורה לבצע משימות אימון או Infrence. יובל מזור, Senior Solution Architect ב-Nvidia הדגים לנו מצב בו נמדד אחוז שימוש גבוה בחומרה אך יחד עם זאת הביצועים היו סבירים ולא יותר.

בהרצאתו הדגיש מזור את החשיבות של שימוש נכון בחומרה; ריבוי כרטיסי מסך ללא הגדרה נכונה יגרום לבזבוז משאבים אדיר שכן הרבה כוח עיבוד יועבר לנושא הסנכרון או חלוקת ושיתוף המידע בין יחידות העיבוד השונות. גם GPU יחיד עלול להיות משומש במצב לא יעיל ובכך לעבד משימות צדדיות רבות ולהקצות פחות זמן ומשאבים ליישומי הבינה המלאכותית עצמה. משתתפי Inception Program יזכו כמובן לעזרה ישירות מן המומחים של Nvidia גם בנושא הזה.

עוד הציגו המהנדסים של Nvidia את בעיית התקשורת שבין יחידות העיבוד השונות שכן על פי המחקרים של Nvidia משימות העיבוד המבוצעות על גבי המעבד או עוברות דרך נתיבי ה-PCIe גורמות ל-"צוואר בקבוק" (Bottleneck). על מנת להתגבר על כך, השיקה Nvidia במשך השנים מספר פתרונות תקשורת וביניהם ה-NVSwitch, NVLink, DALI אשר מעבירים כמה שיותר משימות עיבוד ל-GPU ומצמצמים עד כמה שאפשר את התלות ב-CPU ובתעבורת PCIe.

טוני מלינקוביץ'
טוני הוא העורך הראשי שלנו כאן באתר, עם ידע רחב בחומרה ומקורות מהירים, טוני הוא גם הכתב המהיר ביותר שלנו, בנוסף לכתבות המעולות של טוני הוא גם אחראי על רוב הביקורות שלנו באתר וגם על המלל וחוות הדעת על חלק מסיקורי הוידאו שלנו.
דילוג לתוכן