הנה סקירה שלי על הספר Mathematical Thinking - For People Who Hate Math (חשיבה מתמטית - לאנשים ששונאים מתמטיקה), שפורסם בסוף שנת 2021 תחת שמו של המחבר אלברט רתרפורד. הספר מבקש לגשר על פער תהומי בין הצורך הגובר באוריינות כמותית ולוגית, לבין החרדה והרתיעה שחלקים נרחבים בציבור חשים כלפי תחום המתמטיקה. הספר נמנע באופן מוחלט מכניסה לתחומים שמהווים את ליבת המתמטיקה של קבלת החלטות. במקום חשיבה מתמטית עמוקה, הקורא מקבל יסודות של פסיכולוגיה קוגניטיבית. כפועל יוצא, הספר מהווה פרויקט ח

תחום החלוקה למקטעים מתפתח במהירות ולצד השיטות שנסקרו בפוסט קודם קיימות גישות עדכניות שפותחו לאחרונה ומייצגות את חזית המחקר הנוכחית. גישות אלו מתמודדות עם אתגרים מורכבים של הבנה גלובלית התאמה דינמית למסמך ויעילות בסדרי גודל נרחבים. להלן פירוט של שלוש גישות מרכזיות שמהוות את חזית המחקר הנוכחית. חזית המחקר ב-Chunking עבור RAG גישת שחזור מבוססת גרף ידע משנה את תפיסת החלוקה בכך שהיא אינה מחלקת את הטקסט למקטעים רציפים אלא מחלצת ישויות וקשרים מתוך הטקסט לבניית רשת מידע מקושרת. המע

מערכות מבוססות RAG מגשרות על הפער שבין הזיכרון הפרמטרי של מודלי שפה לבין בסיסי ידע ארגוניים דינמיים. מערכות אלו מיועדות לפתור את בעיית ההזיות על ידי עיגון התשובות בעובדות חיצוניות שאוחזרו בזמן אמת. הצלחת המערכת תלויה באיכות המידע שמאוחזר שנקבעת על ידי שלב העיבוד המקדים והחלוקה למקטעים. הבנת תהליך זה דורשת ירידה לפרטים האלגוריתמיים והמערכתיים של האופן שבו מידע שאינו מובנה הופך לווקטורים שניתנים לחיפוש מתמטי. הצורך בחלוקה נובע מאילוצים חישוביים ומערכתיים. ראשית, לכל מודל אמבדינ

סוגיה בסיסית שמעסיקה מדענים ומהנדסים מתמקדת בשאלה מהו למעשה ייצוג וקטורי (מה שאנחנו מכנים אמבדינג). התשובה שמקובלת בדיונים מקצועיים מתארת ייצוג וקטורי כמערך מספרי צפוף שמייצג טוקן משפט או מסמך. במקום להתייחס לטקסט כאל רצף של מזהים בדידים המודל שמופעל ממפה את הטקסט למרחב רציף שבו המרחק והכיוון מקודדים דמיון סמנטי. ייצוגים אלו מאפשרים להשוות משמעויות ללא תלות בחפיפה מדויקת של מילים ולכן הם מהווים רכיב יסודי במערכות אחזור מידע. בחינה ביקורתית של גישה זו חושפת יתרונות וחסרונות. ה

בשבוע האחרון של חודש מרץ 2026 יצחק גולדסטנד העביר ובינר עם השם הפרובוקטיבי " Build a RAG One More #%^*ing Time: From Sandbox to Real-World Production" . יצחק, מוביל טכנולוגי בחברת קלאודקס, שעוסקת בפיתוח מערכות מידע ומעבר מסביבת ניסוי לסביבת ייצור. יצחק גם חבר טוב וטכנולוג מצויין. ההרצאה מתמקדת בארכיטקטורה שמשלבת שליפת מידע ויצירת תוכן, ומסבירה כיצד טכנולוגיה זו מאפשרת למודלי שפה לחפש מידע עדכני במאגרי נתונים פנימיים כדי לענות על שאלות של משתמשים. אני רוצה לספר על מה מדובר, מ

בעיבוד שפה טבעית מודרני, ובפרט הפיתוח של מודלי שפה גדולים, נדרשת פעולה של פירוק טקסט ליחידות קטנות יותר. ביום יום אנחנו קוראים להן מילים. במחשב קוראים להם טוקנים והם אינם בהכרח חייבים להתמפות למילים בשפה. לפעמים כן, לפעמים לחלקים ממילים או בכלל לאוסף סימנים. קוראיםלזה טוקניזציה: תהליך הפיכת טקסט גולמי ליחידות בסיס שמיוצגות על ידי מזהים מספריים בדידים. אף על פי שמבחינה היסטורית טוקניזציה נתפסה כשלב עיבוד מקדים פשוט ושולי יחסית, נכון לעכשיו, היא מוכרת כצוואר בקבוק רציני בארכיטק

תכנות גנטי הוא תחום בבינה מלאכותית שבו מחשבים מייצרים תוכנות מחשב בעצמם באמצעות תהליך שמדמה אבולוציה ביולוגית. במקום שמתכנת אנושי יכתוב את הקוד שורה אחר שורה, או כמקובל בימינו, במקום שה-AI יכתוב לך את הקוד, המערכת מתחילה עם אוסף אקראי של תוכניות פשוטות ומנסה לשפר אותן לאורך דורות כדי לפתור בעיה מסוימת. התהליך נשען על עקרון הברירה הטבעית, שבו רק התוכניות המוצלחות ביותר זוכות להמשיך לשלב הבא. כדי לקדם את התהליך, המחשב בוחן כל תוכנית באמצעות מבחן כשירות שבודק עד כמה היא קרובה לפ

קראתי את המאמר GazeShift: Unsupervised Gaze Estimation and Dataset for VR וכתבתי את ההבנות שלי ממנו כאן. המאמר עוסק בפיתוח מאגר נתונים ומודל של למידת מכונה לצורך הערכת כיוון המבט במערכות של מציאות מדומה. החוקרים מציגים מאגר נתונים שנקרא VRGaze, שכולל כ-2.1 מיליון תמונות עיניים שצולמו בתאורת אינפרא אדום. התמונות צולמו במצלמות שממוקמות מחוץ לציר הראייה הישיר, תצורה שאופיינית למשקפי מציאות מדומה שקיימים כיום. בנוסף, הם מציגים מודל שנקרא GazeShift, שלומד להעריך את כיוון המבט ללא

מצאתי בלינקדאין הפנייה לפרסום מאמר שמחבריו פרופסור שלומי ארנון, ד"ר עמי האופטמן וד"ר גאנש מ. באלאסוברמאניאם . אני לא קורא או מתמצא בתחום אבל הסתקרנתי והלכתי לקרוא ומה שלא הבנתי יותר מידיי ניסיתי להעמיק וללמוד כדי להבין. אני משתף כאן את ההבנות שלי וגם את השאלות והתהיות שלי. המאמר עוסק בפיתוח אלגוריתם שמשלב דימות אופטי דיפוזי יחד עם תכנות גנטי, במטרה לייצר תמונות מתוך חומרים שדרכם מתפזר אור, דוגמת רקמות ביולוגיות. הבעיה המרכזית שאיתה מתמודדים בדימות מסוג זה היא פתרון משוואות במ

המאמר, שפורסם במרץ 2026 על ידי ה-Financial Stability Institute של ה-BIS , בוחן את ההשפעה של בינה מלאכותית, ובפרט בינה מלאכותית יוצרת, על המגזר הפיננסי תוך התמקדות בתפקיד הנתונים. נקודות המפתח מודלי בינה מלאכותית יוצרת דורשים כמויות אדירות של נתונים מגוונים לאורך כל מחזור החיים שלהם, האימון, הכיול וההפעלה. תלות זו מעצימה אתגרים קיימים ויוצרת סיכונים משמעותיים שנוגעים לאיכות הנתונים, שעלולה להוביל להטיות ותוצאות שגויות; אך גם לפרטיות הנתונים, קושי בשמירה על הסכמה והגבלת מטרות ה

כדי להבין את המתמטיקה של נמוטרון 3 סופר, עלינו לבנות בסיס מתחיל בקלאסי וממשיך עד למודרני ביותר. המודל הזה הוא שילוב של שלוש אסכולות שונות בעיבוד שפה. לו היינו מכינים סילבוס לימודים אז כך הוא היה נראה: Transformers & Attention מתחילים בבסיס אז, ראשית ולפני הכל, חייבים להבין את המנגנון שעליו נשען הזיכרון לטווח קצר של המודל. מנגנון ה-Self-Attention, Softmax normalization, ו-Positional Encodings (בפרט RoPE - Rotary Positional Embeddings) מתוך מאמר המפתח   Attention Is All You Ne

הדגם Nemotron 3 Super שהוכרז רשמית על ידי אנבידיה במרץ 2026 הביא עמו שיפורים רבים שממוקדים בביצועים של סוכני AI ומערכות מרובות סוכנים. החידוש המרכזי שלו הוא שילוב של ארכיטקטורה היברידית ייחודית שמאפשרת מהירות גבוהה לצד חשיבה עמוקה. בפוסט הזה אסביר על החידושים ומשמעותם. בפוסטים הבאים אסביר לעומק את המתמטיקה של כל אחד ואחד מהחידושים. מה זה אומר? מה החידושים הטכנולוגיים המרכזיים? הדגם משלב בין שכבות Transformer שטובות בהבנת הקשרים מורכבים לבין Mamba שמאפשרת עיבוד מהיר ויעיל של ר

מבוא סביבת הפיתוח הטכנולוגית מאופיינת בתחרות, במחזורי חיים קצרים של מוצרים ובדרישה לחדשנות יישומית שמייצרת ערך ללקוח ויתרון תחרותי לארגון. בשנים האחרונות ניכרת האצה בשילוב של טכנולוגיות מתקדמות, אינטליגנציה מלאכותית, למידת מכונה ועיבוד אותות במוצרי צריכה ובמערכות תעשייתיות. מגמה זו מחייבת מחלקות מחקר ופיתוח בחברות טכנולוגיה לשנות את הרכב כוח האדם ולהישען על גיוס חוקרים שמגיעים ישירות מהמוסדות האקדמיים. ארגונים שואפים לגייס חוקרים יישומיים שמבינים דינמיקה עסקית ומשמעויות של תה

אני מנסה לכתוב מאמר על איך לקחת אנשי מחקר אלגוריתמי מהאקדמיה ולהפוך אותם לאנשי מחקר אלגוריתמי יישומי בתעשייה. כתוצאה מכך הלכתי לחפש ולקרוא על החוויות שלהם שהם משתפים ועל מה שמספרים מנהלי מחקר ומובילי מחקר. יש לי כמובן גם את הניסיון שלי והראייה שלי של הנושא מכמעט 30 שנה במקצוע. הלם התרבות של יוצאי האקדמיה יוצאי אקדמיה, במיוחד בעלי תואר דוקטור, מתארים לעיתים קרובות את כניסתם לתעשייה כהתנגשות חזיתית של ציפיות. באקדמיה, המטרה העליונה היא העמקה תאורטית, חיפוש אחר חדשנות מתמטית והג

מחקר טכנולוגי שמתבצע בסביבה תעשייתית נדרש לגשר על הפער שקיים בין מתודולוגיה מדעית קפדנית לבין אילוצים של פיתוח מוצרים. חוקרים שמגיעים מרקע אקדמי מתמודדים לעיתים קרובות עם אתגרים שנובעים מהצורך להתאים את קצב העבודה ואת מיקוד המחקר לדרישות עסקיות וללוחות זמנים שמוגדרים מראש. אנסה כאן להציג עקרונות פעולה ומסגרת עבודה שנועדו לסייע לחוקרים ולמנהלים של חוקרים למקד את העשייה המחקרית ולהבטיח יצירת ערך ממשי עבור המוצר הסופי. נקודת המוצא לכל תהליך של מחקר יישומי היא הגדרה של שאלת מחקר

ממש עכשיו בימים האחרונים ראה אור הספר Crisis Engineering: Time-Tested Tools for Turning Chaos into Clarity שכתבו שלושה מומחים בעלי ניסיון עשיר בניהול מערכות טכנולוגיות ומשברים ממשלתיים ועסקיים. מחזור החיים של המשבר המודל התיאורטי מחזור החיים של המשבר , שמזהה דפוס חוזר של ארבעה שלבים שמאפיינים התמוטטות של מערכות מורכבות. השלב הראשון הוא ה אות , שבו המערכת משדרת סימני מצוקה מוקדמים. הספר מנתח מדוע שכבות הניהול נוטות להחמיץ אותות חלשים אלו באופן עקבי, ותולה זאת בהטיות קוגניטיביו

הנדסת ביצועים ובדיקות עומסים, הוא מרכיב חשוב אולם מהווה רק חלק ממערך רחב יותר של בדיקת נאותות טכנולוגית. באופן מסורתי, כאשר משקיעים או רוכשים בוחנים חברה, הם מנתחים מספר עמודי תווך מרכזיים. בחינה זו כוללת את איכות הצוות וההנהלה, נושאי אבטחת מידע ופרטיות שלרוב נחשבים למכריעים ביותר, סקירה משפטית של קניין רוחני ושימוש בקוד פתוח, הערכת הארכיטקטורה ואיכות הקוד, וכן את יעילותם של תהליכי הפיתוח והתפעול השוטף. בתוך המערך המקיף הזה, סוגיית יכולת ההתרחבות והביצועים תופסת מקום ייחודי.

משפט לקס מילגרם הוא אבן פינה באנליזה פונקציונלית. המשפט מבטיח קיום ויחידות של פתרון לבעיות וריאציונליות במרחבי פונקציות. המשפט פועל בתוך מרחב הילברט, שהוא מרחב וקטורי שמצויד במכפלה פנימית שמגדירה מרחק וזווית, ומתאפיין בתכונת השלמות שמבטיחה שכל סדרת איברים שמתקרבים זה לזה אכן מתכנסת לאיבר שנמצא בתוך המרחב. אנליזה פונקציונלית היא ענף במתמטיקה שחוקר מרחבים של פונקציות. במקום להסתכל על פונקציה כעל נוסחה שמחזירה מספר עבור איקס מסוים, מתייחסים לכל הפונקציה כאל נקודה בודדת בתוך מרחב

תורת האופרטורים היא ענף מתמטי שמהווה הרחבה ישירה של האלגברה הלינארית המוכרת אל עבר מרחבים בעלי ממד אינסופי. בעוד שבאלגברה לינארית בסיסית העבודה מתמקדת בוקטורים בתוך מרחב סופי ובמטריצות שמייצגות טרנספורמציות ביניהם, תורת האופרטורים עוסקת בטרנספורמציות לינאריות שפועלות על מרחבי פונקציות. במרחבים אלו הפונקציות עצמן נחשבות לוקטורים, והפעולות עליהן, כגון גזירה או אינטגרציה, נחשבות לאופרטורים. המעבר לממד אינסופי מחייב שילוב של כלים מעולם האנליזה המתמטית, שכן שאלות של התכנסות, רציפו

מהי נורמת הילברט-שמידט? נורמת הילברט-שמידט, שמכונה גם נורמת פרובניוס, היא הדרך למדוד את האורך או הגודל הכולל של מטריצה, בדיוק כפי שאנו מודדים אורך של וקטור רגיל. אם נחשוב על מטריצה כעל אוסף של מספרים שמסודרים בטבלה, הנורמה הזו לוקחת את כל המספרים שבמטריצה, מעלה כל אחד מהם בריבוע, סוכמת את כולם יחד ומוציאה שורש מהתוצאה. עבור מטריצה A, נסמן את הנורמה כ-‖A‖ ואת האיברים שלה כ-aᵢⱼ. הנוסחה הישירה היא: ‖A‖ = √( ∑ᵢⱼ |aᵢⱼ|² ) איך זה עובד והקשר לעקבה (Trace)? היופי בנורמה הזו הוא שניתן