Fundamentals of numerical computing

277 Pages·1997·3.244 MB·English

by  L. F. Shampine, Rebecca Chan Allen, S. Pruess

SLATNEMADNUFFO
LACIREMUNGNITUPMOC
.L .FenipmahS
nrehtuoS tsidohteMytisrevinU
.R .C ,nellA.rJ
Sandia National Laboratories
S. Pruess
Colorado School of Mines
NHOJ YELIW & ,SNOS.CNI
New York Chichester Brisbane Toronto Singapore
snoitisiuqcArotidE BarbaraH olland
lairotidEtnatsissA ydniC sdaohR
gnitekraMreganaM yhtaC aksudaF
roineS noitcudorPreganaM LucBiulolneo core
roineS noitcudorProtidE ycnaNznirP
gnirutcafunaMreganaM kruMolliriC
revoCrengiseD evetsSnikneJ
sihT koob saw tes ni semi T,namoR dna saw detnirp dna dnuob yb . Ry.eRllennoD&
.e lsln io,vSys ndearhpoTmfow CarreCvoc saw detnirp yb ehT hgih e,LsserP.cnI
gnizingoc eeRh tecnatropmi fo gnivrese rtpahw sah neeb ,nettirw ti sia
ycilop fo nho JyeliW & ,sno S.cnI ot eva hskoob fgoni rdeueudhlnsaeivlbup
ni eht det isne UtdaettSnirp neoer f,-rdeipcaap dna ew trexe ruotseb
stroffe ot taht.dne
ehT repap ni siht koob sdaewrutcafun aymb a llim esohw ts etrnoefmesgmaanragmorp
edul cdneiniatsu sdle igynitsevrah fo s t.isdn adlerneibamtistu Sdleigynitsevrah
selpicn ierrpusne taht eht rebmun fo seert tuc hcae raey seod ton deecxe eht tnuomafo
wen.htworg
thgiryp o©C ,7991 yb nho JyeliW & ,snoS.cnI
llA sthg i.rdev rydelessheusroielnbautPlu mniis.adanaC
noitcudorpe Rro noitalsnart fo yna trapfo
siht krow dnoyeb ta hdtettimrep ybsnoitceS
701 dna 801 fo eht 6791 detinU setatSthgirypoC
tcA tuohtiw eht noissimrep fo ehtthgirypoc
renwo si .lufwaln ustseuqeR rofnoissimrep
ro re hntoriutfamr odflnuiohs eb desserddaot
e hs tn,otinsesmitmrra epnPehDoJ yeliW & ,snoS.cnI
Library of Congress Cataloging-in-Publication Data:
,enipmahSecnerwaL
slatnemadnu Ffo laci rgenmiutnupmoc / drahciR ,nellAevetS
,sseurP ecnerwaL.enipmahS
.p.mc
s eldauclichnpIa regconielrbeifber dna.xedni
NBSI 5-36361-174- 0htolc( : .kla)repap
.1 laciremuN ataD-sisylana .gnissecorp .I ,sseurP.nevetS
.II ,enipmahS ecnerwaL .F .III.eltiT
QA297.A52 1997
519.4’0285’51—dc20 96-22074
PIC
detnirP ni eht detin UsetatS foaciremA
10 9 8 7 6 5 4 3 2 1
SEIRANIMILERP
ehT esoprup fo siht koob si ot poleved eht gnidnatsrednu fo cisab laciremun-htem
sdo dna rieht snoitatnemelpmi sa erawtfos taht era yrassecen rof gnivloslatnemadnuf
lacitamehtam smelborp yb laciremun .snaem tI si dengised rof eht nosrep ohwstnaw
ot od laciremun .gnitupmoc hguorhT eht selpmaxe dna ,sesicrexe eht redaer seidutseht
roivaheb fo snoitulos fo eht lacitamehtam melborp gnola htiw na mhtirogla rof-vlos
gni eht .melborp ecneirepxE dna gnidnatsrednu fo eht mhtirogla era deniaghguorht
dnah noitatupmoc dna ecitcarp gnivlos smelborp htiw a retupmoc .noitatnemelpmitI
si laitnesse taht eht redaer dnatsrednu woh eht sedoc dedivorp ,krow ylesicerptahw
yeht ,od dna tahw rieht snoitatimil .era ehT sedoc dedivorp era ,lufrewop teyelpmis
hguone rof lacigogadep .esu ehT redaer si desopxe ot eht tra fo laciremungnitupmoc
sa llew sa eht.ecneics
ehT koob si dednetni rof a retsemes-eno ,esruoc gniriuqer ylno suluclac dna a
modest acquaintance with FORTRAN, C, C++, or M ATLAB . These constraints of
dnuorgkcab dna emit evah tnatropmi :snoitacilpmi eht koob sesucof no ehtsmelborp
taht era tsom nommoc ni ecitcarp dna elbissecca htiw eht dnuorgkcab .demussayB
gnitartnecnoc no eno evitceffe mhtirogla rof hcae cisab ,ksat ti si elbissop otpoleved
eht latnemadnuf yroeht ni a ,feirb yratnemele .yaw erehT era elpma ,sesicrexedna
sedoc era dedivorp ot ecuder eht emit esiwrehto deriuqer rof gnimmargorp dna-gubed
.gnig ehT dednetni ecneidua sedulcni ,sreenigne ,stsitneics dna enoyna esledetseretni
ni cifitneics.gnimmargorp ehT level si noisivid-reppu etaudargrednu ot gninnigeb
etaudarg dna ereht si etauqeda lairetam rof a eno retsemes ot owt retrauq.esruoc
laciremuN sisylana sdnelb ,scitamehtam ,gnimmargorp dna a elbaredisnoctnuoma
fo .tra eW edivorp smargorp htiw eht koob taht etartsulli .siht yehT era erom nahterem
snoitatnemelpmi ni a ralucitrap egaugnal fo eht smhtirogla ,detneserp tub yeht eraton
edarg-noitc u.deorrapwtfos oT etaicerppa eht tcejbus ,ylluf ti lliw eb yrassecen otyduts
eht sedoc dedivorp dna niag ecneirepxe gnivlos smelborp tsrif htiw eseht smargorpdna
neht htiw edarg-noitcudorp.erawtfos
ynaM sesicrexe era dedivorp ni gniyrav seerged fo .ytluciffid emoS eradengised
ot teg eht redaer ot kniht tuoba eht txet lairetam dna ot tset ,gnidnatsredn uelihwsrehto
era ylerup lanoitatupmoc ni .erutan melborP stes yam evlovni dnah ,noitaluclac-egla
ciarb ,snoitavired drawrofthgiarts retupmoc ,noitulos ro erom detacitsihposgnitupmoc
.sesicrexe
ehT smhtirogla taht ew yduts dna tnemelpmi ni eht koob era dengised otdiova
ereves ffodnuor srorre gnisira( morf eht etinif rebmun fo stigid elbaliava nosretupmoc
dna ,)srotaluclac etamitse noitacnurt srorre gnisira( morf lacitamehtam -amixorppa
,)snoit dna evig emos noitacidni fo eht ytivitisnes fo eht melborp ot srorre ni eht.atad
nI retpahC 1 ew evig emos cisab snoitinifed fo srorre gnisira ni snoitatupmocdna
yduts ffodnuor srorre hguorht emos elpmis tub gnitanimulli .snoitatupmoc retpahC2
slaed htiw eno fo eht tsom yltneuqerf gnirrucco smelborp ni cifitneics,noitatupmoc
eht noitulos fo raenil smetsys fo .snoitauqe nI retpahC 3 ew laed htiw eht melborpfo
V
vi SEIRANIMILERP
,noitalopretni eno fo eht tsom latnemadnuf dna ylediw desu sloot ni laciremun-moc
.noitatup nI retpahC 4 ew yduts sdohtem rof gnidnif snoitulos ot raenilnon.snoitauqe
laciremuN noitargetni si nekat pu ni retpahC 5 dna eht laciremun noitulos foyranidro
laitnereffid snoitauqe si denimaxe ni retpahC .6 hcaE retpahc sniatnoc a esacyduts
taht setartsulli woh ot enibmoc sisylana htiw noitatupmoc rof eht cipot fo taht.retpahc
erofeB gnikat pu eht suoirav lacitamehtam smelborp dna serudecorp rofgnivlos
meht ,yllaciremun ew deen ot ssucsid ylfeirb gnimmargorp segaugnal dnanoitisiuqca
fo.erawtfos
PROGRAMMING LANGUAGES
ehT NARTROF egaugnal saw depoleved yllacificeps rof laciremun noitatupmocdna
sah devlove ylsuounitnoc ot tpada ti retteb ot eht .ksat ,ylgnidroccA fo ehtylediw
desu gnimmargorp ,segaugnal ti si eht tsom larutan rof eht smargorp fo siht .koobehT
C egaugnal saw depoleved retal rof rehtar tnereffid ,sesoprup tub ti nac eb desurof
laciremun .noitatupmoc
tA tneserp NARTROF 77 si yrev ylediw elbaliava dna sedoc gnimrofnoc oteht
ISNA dradnats rof eht egaugnal era ylhgih ,elbatrop gninaem taht yeht nac ebdevom
ot rehtona erawtfos/erawdrah noitarugifnoc htiw yrev elttil .egnahc eW evahnesohc
ot edivorp sedoc ni NARTROF 77 ylniam esuaceb eht rewen nartroF 09 si ton niediw
esu ta siht .emit A nartroF 09 relipmoc lliw ssecorp yltcerroc ruo NARTROF77
smargorp htiw( ta tsom laivirt ,)segnahc tub fi ew erew ot etirw eht smargorp ossa
ot tiolpxe ylluf eht wen seitilibapac fo eht ,egaugnal a rebmun fo eht smargorpdluow
eb derutcurts ni a yllatnemadnuf tnereffid .yaw ehT noitautis htiw C si ,ralimistub
ni ruo ecneirepxe smargorp nettirw ni C evah ton nevorp ot eb ylraen sa elbatropsa
smargorp nettirw ni dradnats NARTROF .77 sA htiw ,NARTROF eht C egaugnalsah
devlove otni ,++C dna sa htiw nartroF 09 derapmoc ot NARTROF ,77 gnitiolpxeylluf
eht lanoitidda seitilibapac fo ++C ni( ,ralucitrap tcejbo detneiro )gnimmargorpdluow
dael ot smargorp taht era yletelpmoc tnereffid morf esoht ni .C eW evah detpo rofa
elddim dnuorg ni ruo ++C.snoitatnemelpmi
nI eht tsal edaced lareves gnitupmoc stnemnorivne evah neeb .depolevedralupoP
seno railimaf ot su eraM BALTA ]l[ dna Mathematica [2]. M BALTA si yrev hcumni
gnipeek htiw siht ,koob rof ti si detoved ot eht noitulos fo lacitamehtam smelborpyb
laciremun .snaem tI setargetni eht noitamrof fo a lacitamehtam ,ledom stilaciremun
,noitulos dna lacihparg yalpsid fo stluser otni a yrev tneinevnoc .egakcap ynaM foeht
sksat ew yduts era detnemelpmi sa a elgnis dnammoc ni ehtM BALTA .egaugnalsA
M BALTA sah ,devlove ti sah dedda cilobmys .seitilibapac Mathematica si a ralimis
,tnemnorivne tub ti sehcaorppa lacitamehtam smelborp morf eht rehto .noitcerid-girO
yllani ti saw yliramirp detoved ot gnivlos lacitamehtam smelborp yb cilobmys,snaem
tub sa ti sah ,devlove ti sah dedda tnacifingis laciremun .seitilibapac nI eht koobew
refer ot eht laciremun sdohtem detnemelpmi ni eseht ylediw desu ,segakcap sallew
sa ,srehto tub ew noitnem eht segakcap ereh esuaceb yeht era gnimmargorpsegaugnal
ni rieht nwo .thgir tI si etiuq elbissop ot tnemelpmi eht smhtirogla fo eht txet nieseht
.segaugnal ,deednI siht si evitcartta esuaceb eht stnemnorivne laed yllufecarg htiwa
rebmun fo seussi taht era gniyonna ni lareneg gnitupmoc gnisu segaugnal ekil-ROF
NART ro.C
ERAWTFOS iiv
tA tneserp ew edivorp smargorp nettirw ni NARTROF ,77 ,C ,++C dnaM BALTA
taht evah a hgih eerged fo .ytilibatrop etiuQ ylbissop ni eht erutuf eht smargorplliw
eb edam elbaliava ni rehto stnemnorivne ,.g.e( nartroF 09 ro ).acitamehtaM
SOFTWARE
nI siht noitces ew ebircsed woh ot niatbo eht ecruos edoc rof eht smargorp taht-ca
ynapmoc eht koob dna woh ot niatbo edarg-noitcud o.reprawtfos tI si demussa tahteht
redaer sah elbaliava a resworb rof eht dlroW ediW ,beW hguohtla emos fo ehterawtfos
si elbaliava yb ptf ro.rehpog
ehT smargorp taht ynapmocca siht koob era yltner reulcbaliava yb snaem fo-ynona
suom ptf gol( ni sa anonymous ro sa ftp) ta
ftp.wiley.com
ni seirotceridbus fo sedocpas/htam/egelloc/cilbup rof eht suoirav segaugnaldessucsid
ni eht gnidecerp.noitces
ehT tseb elgnis ecruos fo erawtfos si eht ediuG ot elbaliavA lacitamehtaM-tfoS
eraw )SMAG( depoleved yb eht lanoitaN etutitsnI fo sdradnatS dna ygolonhceT.)TSIN(
tI si na enil-no xedni-ssorc fo lacitamehtam erawtfos dna a lautriv erawtfos.yrotisoper
hcuM fo eht ytilauq-hgih erawtfos si.eerf roF ,elpmaxe SMAG sedivorp a knilot
,bilten a egral noitcelloc fo niamod-cilbup lacitamehtam .erawtfos tsoM fo eht-orp
smarg ni bilten era nettirw ni ,NARTROF hguohtla emos era ni .C A rebmun foeht
segakcap dnuof ni bilten era tra-eht-fo-etats erawtfos taht era detic ni siht .koobehT
tenretni sserddasi
http://gams.nist.gov
rof.SMAG
A lufesu ecruos fo retupmocorcim erawtfos dna sretniop ot rehto secruos fo-tfos
eraw si eht scitamehtaM sevihcrAta
http://archives.math.utk.edu:80/
tI si htrow gnikramer taht eno meti detsil ereht si na xednI“ fo secruoser roflaciremun
noitatupmoc ni C ro”.++C
erehT era a rebmun fo laicremmoc segakcap taht nac eb detacol yb snaemfo
.SMAG eW era decneirepxe htiw eht GAN dna LSMI ,seirarbil hcihw era egral-loc
snoitcel fo ytilauq-hgih lacitamehtam erawtfos dnuof ni tsom gnitupmoc .sretnecehT
gnitupmoc stnemnorivneM BALTA dna Mathematica denoitnem ni eht gnidecerp-ces
noit nac osla eb detacol hguorht.SMAG
SECNEREFER
.1 .,Cre l ,o.e MJl,t tt.r iSedLgnna,a nB.aSmielK ProMatlab s’resU Guide, MathWorks, ,nrobrehS
,.ssaM .7891m o:cl.isakmreowhtam@ofni
.2 .S ,marfloW Mathematica, ,ye ldsoeoWw-d ne,oRysti id,Cd.Afil a.C19m9 o1:cl.iiarmwe@ofni
iiiv SEIRANIMILERP
STNEMGDELWONKCA
ehT srohtua era detbedni ot ynam slaudividni ohw evah detubirtnoc ot ehtnoitcudorp
fo siht .koob srosseforP dranreB ikcelaiB dna leahciM aesoH evah neebyllaicepse
deye-prahs ta gnihctac srorre ni eht tsetal .snoisrev eW knaht eht elpoep ta ,yeliW-raB
arab ,dnalloH ydniC ,sdaohR dna ycnaN ,znirP rof rieht .snoitubirtnoc divaDsdrahciR
ta eyhttisrevi nfUo sion idlelyIalp a laciti reclor ni gnittegeht gninoitcnuf
rof ,su dna ylkciuq dna yletarucca gnixifrehto eW oslaegdelwonkca
eht krow fo semaJ ottO ni gnikcehc lla snoitulos dna ,selpmaxe dna gnus-gnoHniJ
ohw detareneg tsom fo eht .serugif ,tsaL tub ylniatrec ton ,tsael ew era deednilufetarg
ot eht ynam ,stneduts oot suoremun ot ,noitnem ohw evah edam elbaulavsnoitseggus
ot su revo eht.sraey
STNETNOC
RETPAHC 1 SRORRE DNA GNITAOLF TNIOP CITEMHTIRA 1
1.1 Basic Concepts 1
1.2 selpmaxE fognitaolF Point Calculations 12
1.3 Case Study 1 25
1.4 Further Reading 28
RETPAHC2 SMETSYS FO RAENIL SNOITAUQE 30
1.2 naissuaG noitanimilE htiw laitraP gnitoviP 32
2.2 Matrix Factorization 44
2.3 Accuracy 48
2.4 Routines Factor and Solve 61
2.5 Matrices with Special Structure 65
2.6 Case Study 2 72
RETPAHC3 NOITALOPRETNI 82
3.1 Polynomial Interpolation 83
3.2 More Error Bounds 90
3.3 Newton Divided Difference Form 93
3.4 Assessing Accuracy 98
3.5 Spline Interpolation 101
3.6 Interpolation in the Plane 119
3.7 Case Study 3 128
CHAPTER 4 ROOTS OF NONLINEAR EQUATIONS 134
1.4 ,noitcesiB s’notweN ,dohteM dna eht tnaceS eluR 137
4.2 nA mhtiroglA gninibmoC noitcesiB dna eht tnaceSeluR 150
4.3 senituoR rof oreZ gnidniF 152
4.4 ,noitidnoC gnitimiL ,noisicerP dna elpitluM stooR 157
4.5 Nonlinear Systems of Equations 160
4.6 Case Study 4 163
ix
X STNETNOC
CHAPTER 5 LACIREMUN NOITARGETNI 170
5.1 Basic Quadrature Rules 170
5.2 Adaptive Quadrature 184
5.3 Codes for Adaptive Quadrature 188
5.4 Special Devices for Integration 191
5.5 Integration of Tabular Data 200
5.6 Integration in Two Variables 202
5.7 Case Study 5 203
CHAPTER 6 YRANIDRO LAITNEREFFID SNOITAUQE 210
6.1 Some Elements of the Theory 210
6.2 A Simple Numerical Scheme 216
6.3 One-Step Methods 221
6.4 Errors-Local and Global 228
6.5 The Algorithms 233
6.6 The Code Rke 236
6.7 Other Numerical Methods 240
6.8 Case Study 6 244
XIDNEPPAA NOITATON DNA EMOS SMEROEHT MORFEHT
CALCULUS 251
A.1 Notation 251
A.2 Theorems 252
SREWSNA OT DETCELESSESICREXE 255
INDEX 266
RETPAHC1
ERRORS AND FLOATING POINT
ARITHMETIC
srorrE ni lacitamehtam noitatupmoc evah lareves .secruos enO si eht gniledomtaht
del ot eht lacitamehtam ,melborp rof ,elpmaxe gnimussa on dniw ecnatsiser ni-yduts
gni elitcejorp noitom ro gnirongi etinif stimil fo secruoser ni noitalupop dnacimonoce
htworg .sledom hcuS srorre era ton eht nrecnoc fo siht ,koob hguohtla ti tsum ebtpek
ni dnim taht eht laciremun noitulos fo a lacitamehtam melborp nac eb on erom-naem
lufgni naht eht gniylrednu .ledom rehtonA ecruos fo rorre si eht tnemerusaem foatad
rof eht .melborp A driht ecruos si a dnik fo lacitamehtam rorre dellacnoitazitercsid
ro noitacnurt .rorre tI sesira morf lacitamehtam snoitamixorppa hcus sa gnitamitsena
largetni yb a mus ro a tnegnat enil yb a tnaces .enil llitS rehtona ecruos fo rorre sieht
rorre taht sesira morf eht etinif rebmun fo stigid elbaliava ni eht sretupmoc dna-lac
srotaluc desu rof eht .snoitatupmoc tI si dellac ffodnuor .rorre nI siht koob ewyduts
eht ngised dna noitatnemelpmi fo smhtirogla taht mia ot diova ereves ffodnuor,srorre
etamitse noitacnurt ,srorre dna evig emos noitacidni fo eht ytivitisnes fo ehtmelborp
ot srorre ni eht .atad sihT retpahc si detoved ot emos latnemadnuf snoitinifed dnaa
yduts fo ffodnuor yb snaem fo elpmis tub gnitanim.uslnloiitatupmoc
1.1 CISABSTPECNOC
woH llew a ytitnauq si detamixorppa si derusaem ni owt:syaw
absolute error = eurt eulav - etamixorppaeulav
eurt eulav - etamixorppaeulav
evitaler rorre = .
eurteulav
evitaleR rorre si ton denifed fi eht eurt eulav si .orez nI eht citemhtira fo,sretupmoc
evitaler rorre si eht erom larutan ,tpecnoc tub etulosba rorre yam eb elbareferpnehw
gniyduts seititnauq taht era esolc ot.orez
A lacitamehtam melborp htiw tupni )atad( x dna tuptuo )rewsna( y = )x(F sidias
ot eb denoitidnoc-llew fi ”llams“ segnahc ni x dael ot ”llams“ segnahc ni .y fIeht
1