8.2.5. ÎÐÒÎÃÎÍÀËÜÍÛÅ ÏËÀÍÛ È ÎÐÒÎÃÎÍÀËÜÍÛÅ ÏÎËÈÍÎÌÛ
Ìîäåëü íàçûâàåòñÿ îðòîãîíàëüíîé, êîãäà ìàòðèöà ïëàíà À òàêîâà, ÷òî ìàòðèöà
èìååò äèàãîíàëüíûé âèä, ñêàæåì
.  ýòîì ñëó÷àå îáðàòíàÿ ìàòðèöà òîæå äèàãîíàëüíà:
à âåêòîð ðåøåíèé äîïóñêàåò çàïèñü â ïðîñòîé ñêàëÿðíîé ôîðìå:
÷òî ëåãêî ïðîâåðÿåòñÿ íîðìàëüíûìè óðàâíåíèÿìè, êîòîðûå â ñâîþ î÷åðåäü ñòàíîâÿòñÿ ñîâñåì ïðîñòûìè:
Îäíîñòîðîííÿÿ êîíôèãóðàöèÿ èç ïðèìåðà 8.2.6 ïðåäñòàâëÿåò îðòîãîíàëüíóþ ìîäåëü. Òà ëåãêîñòü, ñ êîòîðîé ìîãóò ðåøàòüñÿ íîðìàëüíûå
óðàâíåíèÿ, — îäíî èç ïðèâëåêàòåëüíûõ âû÷èñëèòåëüíûõ ñâîéñòâ îðòîãîíàëüíûõ ìîäåëåé. Ìû åùå ïîêàæåì ýòî, êîãäà áóäåì ðàññìàòðèâàòü îðòîãîíàëüíûå ïîëèíîìû.
Äîïóñòèì, ÷òî íàäî ïîñòðîèòü ïîëèíîìèàëüíóþ ðåãðåññèîííóþ ìîäåëü â âèäå
ïî ýêñïåðèìåíòàëüíûì äàííûì
Ìàòðèöû À è
ïðèâåäåíû â ïðèìåðå 8.2.5, îòêóäà âèäíî, ÷òî ïëàí íå îðòîãîíàëåí. Íî ìîäåëü ìîæíî ìíîãèìè ýêâèâàëåíòíûìè ñïîñîáàìè ïðèâåñòè ê ñëåäóþùåìó âèäó:
ãäå äëÿ
— ïîëèíîìû ñòåïåíè
êîýôôèöèåíòû êîòîðûõ (âìåñòå ñ
îïðåäåëÿþò
). Äëÿ ýòîé íîâîé ìîäåëè ìàòðèöà ïëàíà èìååò âèä
òàê ÷òî
ýëåìåíò
ìàòðèöû
îêàçûâàåòñÿ ðàâíûì:
Ïîñêîëüêó
äîëæíà áûòü äèàãîíàëüíîé ìàòðèöåé, òðåáóåòñÿ, ÷òîáû
Ïîëèíîìû, óäîâëåòâîðÿþùèå ýòîìó óñëîâèþ, íàçûâàþòñÿ îðòîãîíàëüíûìè è ïîçâîëÿþò îäíîçíà÷íî îïðåäåëèòü
îòäåëüíî îò èõ ñîìíîæèòåëåé. Äèàãîíàëüíûé ýëåìåíò ìàòðèöû
ñ íîìåðîì
ðàâåí:
îòêóäà ÌÍÊ-îöåíêà äëÿ
îêàçûâàåòñÿ ðàâíîé:
à äèñïåðñèÿ, ñâÿçàííàÿ ñ ýòîé îöåíêîé, ðàâíà
.  ÷àñòíîñòè, ïîñêîëüêó
ïîëó÷àåì
îòêóäà
ÌÍÊ-îöåíêà äëÿ
èìååò äèñïåðñèþ
Çàìåòèì, ÷òî,
ïîñêîëüêó
äèàãîíàëüíàÿ ìàòðèöà, îöåíêè ïàðàìåòðîâ, ïîëó÷åííûå ìåòîäîì íàèìåíüøèõ êâàäðàòîâ, â îðòîãîíàëüíûõ ïëàíàõ âñåãäà íåêîððåëèðîâàíû.
Èç (8.2.5) âèäíî, ÷òî îñòàòî÷íóþ ñóììó êâàäðàòîâ ìîæíî çàïèñàòü òàê:
èëè, ó÷èòûâàÿ, ÷òî
òàê:
Ìû óæå îòìå÷àëè, ÷òî îðòîãîíàëüíûå ïîëèíîìû îïðåäåëÿþòñÿ íåçàâèñèìî îò êîíñòàíò-ñîìíîæèòåëåé. Ïîýòîìó íåâàæíî, êàêèå èìåííî êîíñòàíòû âûáðàòü. Òàê, åñëè ìû ðàññìîòðèì
ãäå
ïðè
— çàäàííûå êîíñòàíòû), òî ñðàçó âèäíî, ÷òî
, ñëåäîâàòåëüíî,
.
Òàêèì îáðàçîì, îñòàòêè â îáîèõ ñëó÷àÿõ îäíè è òå æå.
Ïðèìåð 8.2.15. Îðòîãîíàëüíûå ïîëèíîìû â îáû÷íîé ëèíåéíîé ðåãðåññèè. Ðàíüøå óæå îáñóæäàëàñü [ñì. ïðèìåð 8.2.5] ëèíåéíàÿ ðåãðåññèÿ äëÿ îäíîé ïåðåìåííîé
ñ èñïîëüçîâàíèåì ìîäåëè
Ýòà ìîäåëü íåîðòîãîíàëüíà. Â ïðèìåðå 8.2.5 äëÿ íåå ïðèâåäåíû
. À âîò àëüòåðíàòèâíàÿ ìîäåëü, êîòîðàÿ îêàçûâàåòñÿ îðòîãîíàëüíîé:
Çäåñü ïåðåìåííàÿ
èçìåðÿåòñÿ îòíîñèòåëüíî ñðåäíåãî õ íàáëþäàåìûõ çíà÷åíèé
óäîâëåòâîðÿåò ñîîòíîøåíèþ
Äëÿ òàêîé íîâîé ìîäåëè èìååì
îòêóäà
. Ñëåäîâàòåëüíî,
â îáåèõ ìîäåëÿõ îäèíàêîâî, à
Êðîìå òîãî,
è
íåêîððåëèðîâàíû (òîãäà êàê
, íàîáîðîò, êîððåëèðîâàíû).
Äëÿ ìíîæåñòâåííîé ëèíåéíîé ðåãðåññèè ìû ìîæåì ïðèáåãíóòü ê òîìó æå ìåòîäó ïîëó÷åíèÿ ÷àñòè÷íîé îðòîãîíàëüíîñòè, ïåðåïèñûâàÿ ìîäåëü
â àëüòåðíàòèâíîé, «ñêîððåêòèðîâàííîé íà ñðåäíåå» ôîðìå:
ãäå
îáîçíà÷àåò óñðåäíåíèå íàáëþäåíèé
ïî
.  ýòîì ñëó÷àå
óäîâëåòâîðÿåò óñëîâèþ
Äëÿ âòîðîé ìîäåëè ïåðâàÿ ñòðîêà ìàòðèöû
òàêîâà:
ò. å.
, îòñþäà ñëåäóåò, ÷òî ïåðâàÿ ñòðîêà ìàòðèöû
áóäåò:
Çíà÷èò, ÌÍÊ-îöåíêà äëÿ
êàê ðàç è ïîëó÷àåòñÿ ïî ôîðìóëå
Êðîìå òîãî, êàæäàÿ èç ÌÍÊ-îöåíîê äëÿ
íå êîððåëèðóåò ñ îöåíêîé äëÿ
Âîçâðàùàÿñü ê ìîäåëè ñ îðòîãîíàëüíûìè ïîëèíîìàìè (8.2.6), îòìåòèì, ÷òî îêàçûâàåòñÿ, êîãäà çíà÷åíèÿ
ðàñïîëîæåíû ïðîèçâîëüíî, íå íà ðàâíûõ ðàññòîÿíèÿõ äðóã îò äðóãà, îðòîãîíàëüíûå ïîëèíîìû ïðèõîäèòñÿ ñòðîèòü ñïåöèàëüíî äëÿ êàæäîãî êîíêðåòíîãî íàáîðà äàííûõ, ÷òî â çíà÷èòåëüíîé ñòåïåíè ñíèæàåò ïðåèìóùåñòâî îðòîãîíàëüíûõ ìîäåëåé, îáóñëîâëåííîå ëåãêîñòüþ ðåøåíèÿ ñèñòåìû íîðìàëüíûõ óðàâíåíèé. Åñëè æå, îäíàêî, çíà÷åíèÿ õ ðàñïîëîæåíû ðàâíîìåðíî, íà ðàâíûõ ðàññòîÿíèÿõ äðóã îò äðóãà (êàê ãîâîðÿò, ñ ðàâíûì øàãîì), äà åùå âñå ðàçëè÷íû, òî ìû ìîæåì âîñïîëüçîâàòüñÿ ñòàíäàðòíûìè ïîëèíîìàìè, äëÿ êîòîðûõ ñóùåñòâóþò òàáëèöû.
Âîçüìåì ñòàíäàðòèçîâàííóþ ïåðåìåííóþ
Òîãäà çíà÷åíèÿ è áóäåò ñîîòâåòñòâîâàòü çíà÷åíèÿì
à èìåííî
(ñ î÷åâèäíûìè ïåðåñòàíîâêàìè):
Òîãäà ôàêòè÷åñêè îöåíèâàåìàÿ ìîäåëü ïðèìåò âèä
ãäå
îðòîãîíàëüíûå ïîëèíîìû, âûáðàííûå èç òàáëèö è âû÷èñëåííûå ñ òåì ðàñ÷åòîì, ÷òîáû ñîîòâåòñòâîâàòü êàæäîìó öåëîìó çíà÷åíèþ
. Â Biometrika Tables [ñì. Pearson and Hartley (1966), òàáë. 47 — G], ïðèâîäÿòñÿ ôîðìóëû äëÿ
ïðè
à òàêæå ÷èñëåííûå çíà÷åíèÿ
. Ïðîèëëþñòðèðóåì ýòîò ìåòîä íà êîíêðåòíîì ïðèìåðå.
Ïðèìåð 8.2.16. Ïîäáîð êóáè÷åñêîé êðèâîé ñ ïîìîùüþ îðòîãîíàëüíûõ ïîëèíîìîâ. Áûëè ñîáðàíû ñëåäóþùèå äàííûå îá îñàäêàõ ïî ìåñÿöàì:
Ìû çàêîäèðóåì ìåñÿöû
è âîçüìåì ýòè çíà÷åíèÿ â êà÷åñòâå
. À äàííûå îá îñàäêàõ áóäóò ñëóæèòü ñîîòâåòñòâóþùèìè çíà÷åíèÿìè
Áóäåì ïîäáèðàòü ïî äàííûì ðàçëè÷íûå ïîëèíîìèàëüíûå ìîäåëè è äëÿ ïåðåìåííîé
ñîñòàâèì ñëåäóþùóþ òàáëèöó:
(ñì. ñêàí)
Åå òðè ïîñëåäíèå ñòðîêè ïîëó÷åíû èç óïîìÿíóòûõ âûøå òàáëèö, îòêóäà ìû åùå è óçíàëè, ÷òî
Íà÷íåì ñ ïîäáîðà ìîäåëè
Ïî íàøèì äàííûì ïîäñ÷èòàåì
Âîò ÌÍÊ-îöåíêè äëÿ
è
Èç òàáëèö äëÿ
íàõîäèì, ÷òî
îòêóäà ïîäîáðàííûé ïîëèíîì èìååò âèä
Ïîäñòàâëÿÿ
ïîëó÷èì
Ýòî òîò æå ðåçóëüòàò, êàêîé ìû ïîëó÷èëè áû, ïðèìåíèâ ìåòîä íàèìåíüøèõ êâàäðàòîâ ê íåîðòîãîíàëüíîé ìîäåëè
Òåïåðü ïîäáåðåì êâàäðàòè÷íóþ ìîäåëü
Îöåíêè
è
íå èçìåíÿòñÿ, ïîýòîìó îñòàåòñÿ òîëüêî âû÷èñëèòü
ñ ó÷åòîì òîãî, ÷òî
Èç òàáëèö
èìååì
ïîýòîìó ïîäîáðàííûé ïîëèíîì òàêîâ:
èëè
Ýòî òîò æå ðåçóëüòàò, êîòîðûé ìû ïîëó÷èëè áû, ïðèìåíèâ ìåòîä íàèìåíüøèõ êâàäðàòîâ ê îáû÷íîé êâàäðàòè÷íîé ìîäåëè
Çàìåòèì, ÷òî â ïðîòèâîïîëîæíîñòü îðòîãîíàëüíîé ìîäåëè çäåñü îöåíêè
èíûå, ÷åì â ìîäåëè ïåðâîãî ïîðÿäêà.
Äëÿ êóáè÷åñêîé ìîäåëè
íàì îñòàåòñÿ òîëüêî ñ ó÷åòîì òîãî, ÷òî
ðàâíî 36,98, íàéòè
Òàáëèöû ïîêàçûâàþò, ÷òî
ïîýòîìó êóáè÷åñêàÿ ìîäåëü áóäåò ñëåäóþùåé:
èëè
è ýòî ñíîâà òîò æå ðåçóëüòàò, ÷òî äàåò ïðèìåíåíèå ìåòîäà íàèìåíüøèõ êâàäðàòîâ ê ìîäåëè
Âîïðîñ î òîì, êàêàÿ èç ýòèõ ìîäåëåé ëó÷øå ñîîòâåòñòâóåò äàííûì, ìû îáñóäèì ïîçæå, â ðàçäåëå 8.3.5. Ýòîò ìåòîä ïðåäïîëàãàåò ïîñëåäîâàòåëüíûé ïîäáîð íåñêîëüêèõ ìîäåëåé ïîâûøàþùèõñÿ ñòåïåíåé.  òàêèõ ñëó÷àÿõ èñïîëüçîâàíèå îðòîãîíàëüíûõ ïîëèíîìîâ èìååò, â ÷àñòíîñòè, òî ïðåèìóùåñòâî, ÷òî ïðè ïåðåõîäå ê êàæäîé ñëåäóþùåé ñòåïåíè òðåáóåòñÿ ñîâñåì íåìíîãî äîïîëíèòåëüíûõ âû÷èñëåíèé, â òî âðåìÿ êàê äëÿ íåîðòîãîíàëüíûõ ìîäåëåé ïðèõîäèòñÿ íà êàæäîì ýòàïå îáðàùàòü ìàòðèöó (÷òî, êîíå÷íî, íå ïðîáëåìà, êîãäà âû÷èñëåíèÿ ïðîâîäÿòñÿ íà êîìïüþòåðå).