2 אלגברה ליניארית Pivoting &a
Transcription
2 אלגברה ליניארית Pivoting &a
1 כל הזכויות שמורות ל־ .www.studenteen.orgקירוב שורשים : אם קיימים ,c > 0 ,p ≥ 1כך ש־ ≤ c 1.1 | |z−xn+1 p | n→∞ |z−xn , limאזי pסדר התכנסות c ,שיעור התכנסות. שיטת החצייה ורגולה פלסי .c = a+bנחלק את הקטע לשני קטעים ] .[a, c], [c, bאם f (a)f (c) < 0נמשיך עם עבור ) f (xרציפה בקטע ][a, bכאשר ,f (a)f (b) < 0נסמן 2 הקטע ] ,[a, cאחרת נמשיך עם ] .[c, bתנאיי עצירה אפשריים f (c) < or f (c) = 0 :או מספר הצעדים גדול מ־ ,Nאו < | |a − cאו < |.|c − b )(b)−bf (a 1 c = aff (b)−fכאיטרציה הבאה. השגיאה ) .|α − xn | = 2n (b − aבשיטת רגולה פלסי,הדומה לשיטת החצייה ,נסמן )(a 1.2 שיטת המיתר וניוטון רפסון. ) xn−1 f (xn )−xn f (xn−1 ) n )(xn −xn−1 .xn+1 = xn − ff(xלא תמיד מתכנסת ,יותר מהירה מרגולה־פלסי .עבור שיטה איטראטיבית עם איטרציה = ) (xn )−f (xn−1 ) f (xn )−f (xn−1 ) u(xn )(xn −xn−1 ) ,u(x) = ff0(xוהאיטרציה תהיה ) .xn+1 = xn − u(xn )−u(xn−1סדר התכנסות של השיטה ־ .1.6שיטת ניוטון ראפסון, שורש כפול ,מגדירים )(x ) f (xn שמהווה בעצם השאפה בין הנקודות בשיטת המיתר .האיטרציה הינה ) . xn+1 = xn − f 0 (xnהשיטה לא מתכנסת כאשר הנגזרת בשורש שואפת −−− − → ) f (xn −→ = − → −1 − .−תנאי להתכנסות הוא הפיכות x−n+1 →x →(x n −J לאפס .אם השורש כפול ,נציב ) .u(x) = f 0 (xnשיטת ניוטון רב מימדית היא ) n ) · f (xn היעקוביאן. 1.3 שיטת נקודת שבת נבצע ) ,f (x) = 0 → x = G(xהאיטרציה תהיה ) .xn+1 = G(xn kn | |x1 − x0 |α − xn | ≤ 1−k 2 0 מתכנס כאשר |G (x)| ≤ k < 1בסביבת השורש. השגיאה היא אלגברה ליניארית n P n P A∗ A ,||A||∞ = max }| |vi | ,||v||∞ = maxi {|vi s n P −1 = .||A||f roמספר מצב || .cond(A) = ||A|| · ||Aאם גדול מאוד מ־ ,1נקרא תנאי חולה. |aij |2 = ,||v||1 i=1 | |aij n P ) ( i=1 ,||A||1 = max j | |aij j=1 i √ max eigenvalue of = ,||A||2 i=1 2.1 שיטת Pivoting & Scaling ב־ Pivotingחלקי מוצאים מקס' של שורה ואיתו מדרגים .ב־ Pivotingמלא מוצאים מקס' של המטריצה ומחליפים שורות ועמודות )לא לשכוח להחליף משתנים( .ב־ Scalingמתבצע בצעד ה־ :kמתבוננים בשורות ,k, ..., nמוצאים מקסימום בכל שורה }| ,si = max {|aijואת השורה איתה k≤i≤n נחליף נמצא לפי } | . max { |asiki k≤i≤n 2.2 פירוק LUו־QR ,A = LUפירוק זה בא מדירוג המטריצה U ,משולשית עליונה L ,משולשית תחתונה ,ומתקיים כי Lהיא מטריצת כופלי השורות )עם אלכסון .(1 אם החלפנו ,אז נקבל כי כאשר Pמטריצת פרמוטציות .P A = LU ,פירוק צ'ולסקי נוצר גם הוא מפירוק ,LUכאשר Aמטריצה סימטרית וחיובית חיוביים ,או xt Ax > 0לכל ,xאו שהמינורים הריבועיים גדולים מאפס( .הפירוק הוא ,A = RRtכאשר Rמשולשית ממש )אם כל הע"ע שלה √ תחתונה ,ו־ Rמוגדרת ע"י ,R = L Dכאשר Dמטריצת האלכסון של .U אורתוגונלית R ,משולשית עליונה .האלגוריתם :עבור העמודה ה־ ,kמנרמלים אותה פירוק QRהוא הפירוק הבא :נפרק A = QRכאשר Q p בנורמה .2נניח הוקטור המנורמל ) .(d1 , ..., dnנגדיר ,D =q± d2k + ... + d2nכאשר בוחרים +אם ,dk ≤ 0אחרת ־ .כעת ,נגדיר Vוקטור d dk j ,Vj = 12 − 2Dוכאשר ,k + 1 ≤ j ≤ nמתקיים עמודה ,כאשר ,1 ≤ j ≤ k − 1מתקיים ,Vj = 0כאשר ,j = k .Vj = −2DVכעת ,מסמנים k .Hk = I − 2V V tכעת ,נמשיך את התהליך באופן זהה עבור העמודה הבאה ) (k + 1במטריצה .Hk · Aלבסוף יתקיים כי ,Q = H1 · ... · Hn−1 ויתקיים .R = Hn−1 · ... · H1 · A 2.3 שיטות איטרטיביות לפתרונות כאשר ,A = L + D + Uהאיטרציות בנויות בצורה של H, b ,xn+1 = Hxn + bקבועים .במערכת ,Ax = bהקירוב בשיטת יעקובי : ,xn+1 = −D−1 (L + U )xn + D−1 bבשיטת גאוס זיידל .xn+1 = −(L + D)−1 U xn + (L + D)−1 b :השיטות מתכנסות כאשר הע"ע המקסימלי של Hקטן מ־ ,1או כאשר למטריצה יש אלכסון דומיננטי )האיברים באלכסון גדולים מסכום השורה והעמודה )לא כולל עצמם( בהם נמצאים(. 2.4 אלגוריתמים לערכים עצמיים עבור מציאת ערכים עצמיים ,קיימת שיטת , Power Methodהמוצאת את הו"ע של הע"ע המקסימלי של מטריצה ,Aעם איטרציה ,x0 = Axk 0 ∞|| ,xk+1 = ||xx0והע"ע המתאים הוא ∞|| .λk+1 = ||x0ניתן גם להזיז אחרי מציאת ע"ע מקסימלי ע"י ,B = A − λIולהפעיל את אותה שיטה כדי לקבל ע"ע חדש .עבור ע"ע מינימלי ,מפעילים את השיטה על A−1ואז משיגים את ההופכי של הע"ע המינימלי. 1 אינטרפולציה 3 אם יש סדרה ) (x0 , y0 ), ..., (xn , ynשל n + 1נקודות ,נמצא פונקציה )בדר"כ פולינום( שעובר דרך כולן .שגיאה באינטרפולציה פולינומית היא ) − x0 )(x − x1 )...(x − xn )f (n+1) (ξ (n+1)! (x = |) |f (x) − p(xכאשר ξמותאם עבור xספציפי. .1פולינומי לג'ראנז' :נגדיר )yi Li (x n P = ) ,p(xכאשר לכל ,i i=0 x−xj xi −xj n Q = ).Li (x j=0 j6=i .2פולינומי ניוטון :נגדיר ) ,p(x) = y0 + y10 (x − x0 ) + y210 (x − x0 )(x − x1 ) + ... + yn(n−1)...0 (x − x0 )...(x − xn−1כאשר ניתן לחשב את y0 , y10 , y210 ...באמצעות שיטת ההפרשים .באותה שיטת הפרשים ,ניתן להכניס גם נתונים על נגזרות בנקודות הדגימה .מכניסים שורה נוספת זהה של הנקודה ,ובהפרש הראשון בין הנקודה לעצמה ההפרש לא מוגדר ,שם נציב את הנגזרת. בנוסחת הרקורסיה ,Tn (x) = cos(nאו כדי לשפר את השגיאה ואת חישובה ,נדגום בנקודות מיוחדות .נשתמש בפולינומי צ'בישב ,כאשר ))narcsin(x . ξk = cos 2k−1נקודות צ'בישב π ) ,Tn+1 (x) = 2xTn (x) − Tn−1 (xכאשר .T1 (x) = x ,T0 (x) = 1,שורשי פולינום צ'בישב Tnהם 2n k=1 מהוות בחירה מוצלחת של נקודות מדגם ע"מ לחסום את השגיאה הפולינומיאלית בשגיאה לעיל .הקירוב עובד בקטע ] .[−1, 1אם מקרבים את b−a ,t = a+bכאשר ].x ∈ [−1, 1], t ∈ [a, b הפונקציה בקטע ] ,[a, bאזי נעבור מהקטע ] [−1, 1בו נמצאות נק' צ'בישב ע"י הטרנספורמציה 2 + 2 x n Q n+1 . (t − ti ) ≤ 2 · b−a לאחר מכן נדגום את הפונקציה בנקודות צ'בישב לאחר הטרנספורמציה ,ונקבל חסם 4 i=0 3.1 קיוביק־ספליין במקום לקרב את הנקודות ע"י פולינום ממעלה גבוהה ,נקרב בכל קטע ע"י פולינום )בקיוביק ,מקרבים ממעלה ,(3כך שאיחוד הפונקציות יהיה רציף, שהפונקצייה תהיה גזירה ברציפות פעמיים( .כאשר ,hi = xi+1 − xiהקיוביק ספליין הינו איחוד הנגזרת )בעצם ,כך הראשונה והשנייה . וכך גם ai ·(xi+1 −x)3 ai+1 ·(x−xi )3 ai+1 hi yi+1 yi ai hi = ) ,si (xכאשר נחשב את a0 , ...anע"י המערכת הבאה: + + hi − 6 (xi+1 − x) + hi − 6 ) (x − xi 6hi 6hi 0 1 0 0 0 0 a0 ) (y2 −y1 0) 1 a1 ) 1 h0 1 (h0 + h1 − (y1h−y 0 0 h1 3 6 h1 0 6 1 1 1 a2 (y3 −y2 ) − (y2 −y1 ) 0 h (h + h ) h 0 1 1 2 2 .זהו קיוביק ספליין טבעי ,כאשר לא ידועות הנגזרות 6 3 6 = h2 h1 .. . . . . . . . . . . . . . . . . . . . an 0 ... 0 0 1 0 בקצוות. 3.2 אינטרפולציית קירוב מאוד לערכים ,אך לא במדויק תעבור בהם )למשל כשהנתונים באים עם שגיאה( .בריבועים מינימלים, לחשב פונקציית אינטרפולציה שתהיה קרובה pP ∂s n .∀1 ≤ i ≤ n ∂aמקרה פרטי = 0 נפתור )p(x = a + a x + ... + a x אם כלומר, .s = בעצם נדרוש מינימליות על (p(xi ) − yi )2 0 1 n i בו הפולינום הוא ישר ,הקירוב ייקרא רגרסיה ליניארית .כלומר ,בסימון ,p(x) = a0 + a1 xהמקדמים נתונים ע"י פתרון של מערכת המשוואות P P n n n n P P 2 n n x4i x3i x2i y x i n i=0 i P P 2 P i=0 i=0 i=0 yi xi xi xi a2 P P n n P n x3 P n yx i=0 i=0 i=0n · a1 x2i xi = . · a1 = .באותו אופן עבור פולינום ריבועי i i : n n i P P P a0 i=0 i=0 i=0 i=0 yi xi 1 a0 P P n n n n P P i=0 i=0 i=0 x2i xi 1 yi i=0 i=0 i=0 i=0 אדגיש כי קל להכליל את התוצאה לעיל .כעת נעבור לקירוב עם פולינומים אורתוגונליים .נניח ϕ0 , .., ϕnקבוצת פולינומים אורתוגונליים לפי מכפלה פנימית כלשהי ,מתוקנים ,ולכל ϕi (x) ,iממעלה .i .1במקרה הבדידϕi (xk )ϕj (xk ) : n P ) yi ϕj (xi => ,< ϕi , ϕjועבור k=0 n P i=0 n P = ,αjהפולינום הוא )αj ϕj (x (ϕj (xi ))2 n P = ) .p(xבחישוב כזה ,צריך למצוא j=0 i=0 לבד קבוצה אורתוגונלית. ´b .2במקרה הרציף ,ֹ< ϕi , ϕj >= ϕi (x)ϕj (x)w(x)dx :ועבור a f (x)ϕj (x)w(x)dx [ϕj (x)]2 w(x)dx ´b a ´b = ,αjהפולינום הוא )αj ϕj (x n P = ) .p(xהפונקציה )w(x j=0 a פונקציית משקל ,נותנת חשיבות לקטע מסוים. פולינומים אורתוגונליים ידועים הם)במקרה הרציף(: .1פולינומי לז'נדר :מוגדרים בקטע ] ,[−1, 1פונקציית משקל ,w(x) = 1כאשר ,ϕ1 = x ,ϕ0 = 1 רקורסיבית ).(n + 1) · ϕn+1 (x) = (2n + 1) · x · ϕn (x) − n · ϕn−1 (x .2פולינומי צ'בישב :מוגדרים בקטע ) ,(−1, 1פונקציית משקל נוסחא רקורסיבית לעיל. √ 1 1−x2 ניתן לעבור מן הקטעים לעיל לקטע ] [a, bע"י הטרנספורמציה הפשוטה 3x −1 2 = ,ϕ2 5x −3x 2 = .ϕ3נוסחא = ) ,w(xכאשר .T3 = 4x3 − 3x ,T2 = 2x2 − 1 ,T1 = x ,T0 = 1 b+a b−a 2 2 3 − 2 b−a z = .x נגזרות ואינטגרלים 4 )(x−h )(x ,f 0 (x) = f (x+h)−f ,f 0 (x) = f (x+h)−fאחורית ,f 0 (x) = f (x)−fh(x−h) :דיוק שתיהן ) .O(hנגזרת מרכזית נגזרת קידמית : 2h h )f (x−h)−2f (x)+f (x+h 0 2 )(2 = ) ,f (xדיוק ) .O(hאקסטרפולציית ריצ'ארדסון :בהנחה שיש לנו קירוב = ) f (x0 מדיוק ) .O(h2נגזרת שניה h2 k )k−1 (2h ) ,Dk−1 (h) + O(h2kאזי קירוב טוב יותר הינו + O h2k+2 . f 0 (x0 ) = 4 Dk−1 (h)−D 4k −1 4.1 אינטגרציה נומרית שיטת הטרפז המורכבת כאשר b−a n = (f (x0 ) + 2f (x1 ) + ... + 2f (xn−1 ) + f (xn )) ,h h 2 ´b ≈ , f (x)dxהשגיאה היא a 00 2 )h (b−a)f (η 12 סימפסון המורכבת n ,חייב להיות זוגי! )כאשר יש n+1נקודות( ,הקירוב הוא )) (f (x0 ) + 4f (x1 ) + 2f (x2 )... + 4f (xn−1 ) + f (xn שגיאה היא )h4 (b−a)f (4) (ξ 180 h22 · )I (2) −I (1 h21 −h22 )f (x √ dx 1−x2 + )(2 )(new =I ´1 n P = f (x)dx .Iבהתאם ,גם בשיטת סימפסון i=1 ,משתמשים בשיטת גאוס צ'בישב ,כך ש־ −1 2 נועדה לחישוב e−x f (x)dx ∞ ´ ,עם שגיאה h42 (2i−1)π 2n ,נקרב ע"י ) Wi f (xi n P i=1 22n+1 (n!)4 )(2n )(η (2n+1)[(2n)!]3 f ,xi = cosומתקיים ) f (xi n P = ,Iכאשר n P i=1 = ,Iכאשר i=1 0 ∞− ´1 −1 ∞ ´ שיטת גאוס לגר נועדה לחישוב , e−x f (x)dxנקרב ע"י ) Wi f (xi 5 a · )I (2) −I (1 h41 −h42 + )(2 =I )(new .I שיטות גאוס בשיטת גאוס לז'נדר ,ניתן לחשב אינטגרל ) Wi f (xi של ´b ≈ . f (x)dx ≤ .Eבעזרת אקסטרפולציה של ריצ'רדסון ,בשיטת הטרפז עם קירובים ) ,I (1) , I (2וצעדים־ h1 , h2נקודות בהתאמה, ניתן לתקן את החישוב של האינטרל ע"י 4.2 h 3 ≤ .Eבשיטת )(n!)2 (2n )(η (2n)! f √ n! π )(2n )(η n 2 (2n)! f π n = ,Enהנקודות באות מטבלה .במקרה ≈ .Iהשגיאה היא π )(2n )(η (2n)!22n−1 f = .En = ,Enהנקודות באות מטבלה .שיטת גאוס־הרמיט = ,Enהנקודות באות מטבלה. משוואות דיפרנציאליות רגילות בהינתן מד"ר ) ,y 0 = f (t, yעם תנאי התחלה ,y(t0 ) = y0שיטת אוילר מאפשרת לקרב סדרה של נקודות עם הפרשים קבועים ע"י האיטרציה ) .y(tk ) = y(tk−1 ) + hf (tk−1 , yk−1סדר גודל של שגיאה מצטברת ) .O(hשיפור של השיטה ,הנקרא שיטת ,Heunכאשר מחשבים בתחילה C C P P ) yi+1 = yi+1וכך הלאה.(... ,yi+1כאשר נאמר ש־ = yi + h2 [f (xi , yi ) + f (xi+1 , yi+1 ,yi+1ואז מכאן נחשב את ]) ) = yi + hf (xi , yi 5.1 שיטות רונגה־קוטה h 6 h ) 2 k1 1 2 h, yi + עבור ,R.K.4נקבל את השיטה האיטרטיבית ) ,yi+1 = yi + (k1 + 2k2 + 2k3 + k4כאשר ) ,k1 = f (ti , yi ,k2 = f (ti + ) .k4 = f (ti + h, yi + hk3 ) ,k3 = f (ti + 21 h, yi + h2 k2שגיאת צעד היא ) .O(h5מוגדרת גם ,R.K.2וממנה נקבל את השיטה האיטרטיבית ) ,yi+1 = yi + h2 (k1 + k2כאשר ) .k2 = f (xi + h, yi + hk1 ) ,k1 = f (xi , yi 6 שגיאות | .δx = |∆xשגיאה מתפשטת במשתנה אחד .∆f (x) = |f 0 (x)| · ∆x :בפונקציה עם n שגיאה מוחלטת היא | .∆x = |x − xשגיאה יחסית היא ||x 0 n P f (x)·x ∂f = ) .∆f (xמספר המצב של פונקציה )f (xמוגדר להיות ) . f (xנוסחאות שימושיות: משתנים ∂xi · ∆xi i=1 ).∆(x + y) = ∆(x) + ∆(y ).∆(x − y) = ∆(x) + ∆(y |.∆(x · y) = |y · ∆x + |x| · ∆y x .∆( y ) = y1 ∆x + yx2 ∆y = δx + δy .δ(x · y) = δx + δy x y .δ תקציר כל הזכויות שמורות ל־ .Studenteen.orgהנוסחאון אינו מכיל את כל החומר! ולשם כך ,הצד השני של הדף השני נועד לכתיבה בכתב יד כל תוכן נוסף אשר אתם רואים לנכון להוסיף .אני ממליץ להוסיף טבלאות של משקלים ונקודות באינטגרציית גאוס ,נורמות של פולינומים אורתוגונליים ידועים ,ושיטת מולר למציאת שורשים .במידה ויש טעויות ,הודיעו ואעדכן .עודכן לאחרונה .22:00 ,22.10.10 : 3