בשנים האחרונות תופסים מודלי AI מקום יותר ויותר מרכזי בתהליכים השונים בארגונים – החל בפיתוח והמוצר ועד שירות הלקוחות. הסטארטאפ הישראלי Citrusˣ פיתח פלטפורמה עבור ארגונים, שמאפשרת להם להסביר, לתקף ולנטר מודלים של בינה מלאכותית ולהנגיש מידע קריטי על אותם המודלים.

מקבלי ההחלטות בארגון יוכלו לוודא כך שהמודלים שבהם הם השתמשו מפיקים תוצאות מדויקות ומהימנות, ועומדים בדרישות הרגולטוריות השונות – שרק צפויות ללכת ולהחמיר עם הזמן. בנוסף, נועדה הפלטפורמה לאיתור חולשות, שגיאות והטיות במודלים של בינה מלאכותית, שיכולות להוביל לתוצאות לא רצויות לארגון, כמו אפליה וחשיפה לסיכונים פיננסיים ומשפטיים.

המוצר של Citrusˣ מיועד לכל שלבי הפעילות של המוצר – החל משלב פיתוח המודל ועד ההוספה שלו לסביבת הפרודקשן של החברות. "הפלטפורמה משתמשת באלגוריתם שפותח על ידי החברה, שממפה ומחלק את כל מרחב הדאטה לחלקים המשתנים בהתאם לפרמטרים שונים, וסורק את המרחב על כל צדדיו. זה מייצר עבור הלקוח מרחב מידע חדש, המאוחסן במבנה הנתונים הייחודי שלנו", מסבירה בשיחה עם גיקטיים אחת ממייסדות החברה והמנכ"לית נעה סרברניק.

לדברי סרברניק, היתרון הגדול של החברה הוא העובדה שהמוצר שלהם לא מצריך בדיקות ידניות, וכי הוא עובד מהר יותר לעומת מוצרים מקבילים בקוד פתוח. "המחויבות שלנו היא להתגבר על המגבלות של פתרונות קוד פתוח. הפלטפורמה שלנו מציגה פתרון מקיף לוולידציה, הסבריות, ניטור בזמן אמת ובדיקת הגינות ונאותות לאורך כל מחזור החיים של AI ובכל השלבים שהמודל צריך לעבור בדרך בכדי שיאושר ויצא לפרודקשן. וככה אנחנו יכולים גם לעשות בדיקה וניטור של מודלים של צד שלישי. היה לנו חשוב שהמוצר יתאים גם לפונקציות הפחות טכנולוגיות מבין מקבלי ההחלטות שצריכים לבדוק ולוודא את תקינות המודל ולכן הפלטפורמה שלנו מותאמת לתפקידים השונים, לדרישותיהם ויכולותיהם. היא מאפשרת ללקוחות שלנו ליהנות משקיפות מלאה ללא קשר לדרגה של מקבל ההחלטה".

לדברי סרברניק, המוצר של החברה הוא אגנוסטי לחלוטין לסוג המודל המפותח ואגנוסטי למקרי מבחן שונים: "על כן ניתן להשתמש בו למטרה של השוואת מודלים שונים שנבנו בתוך הארגון או מחוצה לו". הפלטפורמה גם חושפת בדיוק איך המודל מגיע לתחזיות שלו, כך שאפשר להיות בטוח שהוא מדויק ולא מוביל לתקלות – בין אם בצד המשתמשים או בתוך הארגון.

אתם לא חוששים שכלים כמו שלכם בסופו של דבר יהפכו לחלק מארסנל הכלים של חברות AI כמו OpenAI ואחרות? מה מונע מהן להפוך אתכם לפיצ'ר?

"לא, אנחנו לא חוששים מכך. למען האמת להפך. בחלק מן הרגולציות המתהוות אף כתוב שהגוף שמפתח את המודל לא יהיה הגוף שבודק את נכונות ויציבות המודל. כמו כן, אנו רואים שהפלטפורמות הגדולות שנותנות תשתית לפיתוח מודלים מתמקדים בתשתית ומציעים כלים מצומצמים לשלבים שאנחנו מציעים פתרון ייחודי בו".

מגייסים סבב ראשון

את Citrusˣ הקימו ב-2021 נעה סרברניק וגלעד מנור, סמנכ"ל הטכנולוגיות. סרברניק יוצאת 8200 ועבדה בעבר כאנליסטית בבנק ישראל ובמשרד האוצר, ובתפקידה האחרון כסמנכ"לית מוצר הכירה את מנור. השניים מספרים כי החליטו על הקמת החברה לאחר שחוו את הקושי החוזר לבצע ולידציה למודלי ML באמצעות כלים קיימים, והעיכוב עד להבאת מודלים לסביבת הפרודקשן. Citrusˣ מעסיקה 15 עובדים בתל אביב. היום (ב') מדווחת החברה על השלמת סבב גיוס Seed בסך 4.5 מיליון דולר. את הסבב הובילה הקרן הישראלית-קנדית Awz Ventures והשתתפו בו גם משקיעים פרטיים.

To read the full article on Geektime in Hebrew click here.