fbpx

חברת Deepchecks חושפת מוצר חדש המאפשר למזער את הטעויות והתקלות להן עלולה לגרום מערכת AI

צוות Deepchecks. קרדיט צילום- דיפצ'קס
צוות Deepchecks. קרדיט צילום- דיפצ'קס

Deepchecks, חברה ישראלית העוסקת בבדיקה ובניטור של מערכות למידת מכונה (Machine Learning), בוגרת התוכנית של Intel Ignite, תוכנית ההאצה לסטרטאפים של אינטל, חושפת השבוע את המוצר החדש שלה הפונה בעיקר לדאטה סיינטיסטים, בתצורה של קוד פתוח. המוצר מאפשר לכל חברה להשתמש בו באופן חופשי ולמזער את התקלות והטעויות להן עלולה לגרום מערכת הבינה המלאכותית. מערכות מסוג זה נהיו יותר ויותר נפוצות בתעשייה בשנים האחרונות, ועל כן יש צורך בפיתוח כלים ומערכות שילוו אותן ויוודאו שהן מתפקדות היטב.

החברה בנתה מוצר שמסייע לארגונים לנטר בצורה חכמה את המודלים שכבר משמשים את הלקוחות שלה, כמו למשל: הערכת הסיכון בעת מתן הלוואה, הערכת השווי העסקי של צרכן עבור חברת e-commerce, תמצות אוטומטי של טקסטים מתוך רשומות רפואיות וכו', במטרה להתריע בפני אותו ארגון כאשר המודל שלהם לא עובד כשורה.

לאחר עבודה עם מגוון חברות, התברר כי הרבה מהבעיות ניתנות לזיהוי עוד לפני שמודל למידת המכונה עולה לאוויר, כלומר כבר בשלב המחקרי. תובנות אלו הובילו את החברה לפתח כלים גם לשלבים הקודמים להעלאת המודלים לפרודקשן, כדי לאפשר מתן פתרון שלם ומקיף בתחום של ולידציית מודלים.

"קיימת בעיית אמון במערכות AI שגורמת להרבה בעיות שונות", מציין פיליפ טנור, מנכ"ל Deepchecks. "פעם בני אדם היו מקבלים את ההחלטות בעצמם, תוך שילוב אינטואיטיבי בין שיקולים כלכליים ושיקולים נוספים כגון אתיקה, פשטות, וכו׳. כיום, כאשר מערכות מבוססות-דאטה  פוגשות את החיים האמיתיים, צצות המון בעיות. במקומות בהם התחילו להשתמש ב-AI ללא מנגנוני ההגנה הנחוצים, התעוררו בעיות משמעותיות הנובעות ממגוון גורמים: מידע לא נקי, הטיות בדאטה, וכו׳. אפילו פרוייקטי דגל של חברות ענק ספגו פגיעה קשה בגלל מנגנוני בקרה לא אופטימליים על מערכות ה-AI שלהן. לדוגמא: כרטיס אשראי של אפל שהושק יחד עם הבנק גולדמן-זקס גרם לפגיעה תדמיתית משמעותית בחברות על רקע טענות לאפליה אלגוריתמית, ויוזמה של זילו, חברת ה״יד-2״ של ארה״ב, לרכוש בתים בעצמה על בסיס מערכות לומדות, נגנזה לחלוטין לאחר שגרמה להפסדי עתק.״

בניגוד למוצרים אחרים בתחום, המוצר החדש של החברה אותו היא משיקה בימים אלה יהיה זמין בחינם ב-GitHub כחבילת python. בתוך כמה דקות משתמשים יכולים להוריד אותו, להריץ שורות קוד בודדות ולקבל בדיקה מקיפה של המודל והדאטה בו נעשה שימוש במהלך אימון המודל. מדובר על בשורה משמעותית למשתמשים, שכן בארגונים רבים תהליך בדיקה זה נעשה בצורה לא שיטתית, או שנעשה במסגרת תהליך בדיקה ארוך וידני על ידי דאטה סיינטסים ותיקים שמצויים בין כה וכה במחסור.

״אנחנו מקווים שפתיחת החבילה לתצורה של קוד פתוח תוכל לקדם משמעותית את קהילות ה-machine learning גם בישראל וגם ברחבי העולם. באופן פרדוקסלי, אנחנו רואים שככל שיש מנגנוני בקרה ברורים ומסודרים יותר, הפרויקטים מתקדמים בקצב מהיר יותר – בעיקר כי ההנהלה מרגישה בנוח לשים ׳רגל על הגז׳ עם הטמעת פרויקטים חדשים״ אומרת שיר חורב, ה-CTO של Deepchecks.

טוני מלינקוביץ'
טוני הוא העורך הראשי שלנו כאן באתר, עם ידע רחב בחומרה ומקורות מהירים, טוני הוא גם הכתב המהיר ביותר שלנו, בנוסף לכתבות המעולות של טוני הוא גם אחראי על רוב הביקורות שלנו באתר וגם על המלל וחוות הדעת על חלק מסיקורי הוידאו שלנו.
דילוג לתוכן