0% found this document useful (0 votes)
336 views134 pages

Indrumar DEPI

This document provides an introduction to MATLAB, including a brief overview of its features and capabilities. It discusses MATLAB's interface, data types, basic commands, functions, vectors and matrices, matrix operations, plotting, and examples of vector and function usage. It also proposes exercises and topics for further work.

Uploaded by

Bianca Lolea
Copyright
© Attribution Non-Commercial (BY-NC)
We take content rights seriously. If you suspect this is your content, claim it here.
Available Formats
Download as PDF, TXT or read online on Scribd
0% found this document useful (0 votes)
336 views134 pages

Indrumar DEPI

This document provides an introduction to MATLAB, including a brief overview of its features and capabilities. It discusses MATLAB's interface, data types, basic commands, functions, vectors and matrices, matrix operations, plotting, and examples of vector and function usage. It also proposes exercises and topics for further work.

Uploaded by

Bianca Lolea
Copyright
© Attribution Non-Commercial (BY-NC)
We take content rights seriously. If you suspect this is your content, claim it here.
Available Formats
Download as PDF, TXT or read online on Scribd
You are on page 1/ 134

,

i
ii
Prelucrarea statistica a informat iei
Indrumar de laborator
Corneliu FLOREA Laura FLOREA
5 octombrie 2010
ii
Cuprins
1 Introducere n Matlab 3
1.1 Matlab - Scurt a prezentare . . . . . . . . . . . . . . . . . . . 3
1.2 Detalii de implementare . . . . . . . . . . . . . . . . . . . . . 4
1.2.1 Interfat a cu utilizatorul . . . . . . . . . . . . . . . . . 4
1.2.2 Tipuri de date . . . . . . . . . . . . . . . . . . . . . . 4
1.2.3 Instruct iuni de baz a . . . . . . . . . . . . . . . . . . . 4
1.2.4 Help n Matlab . . . . . . . . . . . . . . . . . . . . . . 5
1.2.5 Funct ii . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.6 Vectori si matrice . . . . . . . . . . . . . . . . . . . . . 7
1.2.7 Operat ii cu matrice . . . . . . . . . . . . . . . . . . . 8
1.2.8 Graca n Matlab . . . . . . . . . . . . . . . . . . . . 8
1.3 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 10
1.3.1 Vectori si funct ii . . . . . . . . . . . . . . . . . . . . . 10
1.3.2 Variabile aleatoare - recapitulare . . . . . . . . . . . . 12
1.4 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 16
2 Studiul variabilelor aleatoare 17
2.1 Variabile aleatoare . . . . . . . . . . . . . . . . . . . . . . . . 17
2.2 Principiul invers arii funct iei de repartit ie . . . . . . . . . . . . 20
2.2.1 Exemple . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2.3 Histograma si histograma cumulativ a . . . . . . . . . . . . . . 24
2.4 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 27
2.5 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 32
3 Perechi de variabile aleatoare 35
3.1 Caracterizarea statistic a de ordinul II . . . . . . . . . . . . . 35
3.2 Dreapta de regresie . . . . . . . . . . . . . . . . . . . . . . . . 38
3.3 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 41
3.4 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 45
4 Transformata Fourier 47
4.1 Transformata Fourier continu a . . . . . . . . . . . . . . . . . 47
4.2 Transformata Fourier discret a . . . . . . . . . . . . . . . . . . 49
4.3 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 54
4.4 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 60
iii
CUPRINS
5 Semnale aleatoare 61
5.1 Caracterizarea semnalelor aleatoare . . . . . . . . . . . . . . . 61
5.1.1 Stat ionaritatea semnalelor aleatoare . . . . . . . . . . 63
5.1.2 Ergodicitatea semnalelor aleatoare . . . . . . . . . . . 63
5.2 Teorema Wiener-Hincin . . . . . . . . . . . . . . . . . . . . . 64
5.2.1 Funct ia de autocorelat ie . . . . . . . . . . . . . . . . . 64
5.2.2 Densitatea spectral a de putere . . . . . . . . . . . . . 65
5.3 Trecerea semnalelor aleatoare prin sistemeliniare . . . . . . . 66
5.4 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 67
5.5 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 73
6 Detect ia statistica a semnalelor 75
6.1 Detect ie n cazul binar. Criteriul lui Bayes . . . . . . . . . . . 76
6.1.1 Particularizare: zgomot alb gaussian de medie nul a . . 77
6.2 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 80
6.3 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 86
7 Estimarea parametrilor 87
7.1 Estimarea parametrilor n cazul discret . . . . . . . . . . . . . 87
7.1.1 Estimatul maxim a posteriori . . . . . . . . . . . . . . 88
7.1.2 Estimatul p atratic . . . . . . . . . . . . . . . . . . . . 92
7.2 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 93
7.3 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 99
8 Modele stochastice 101
8.1 Modelul MA . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
8.2 Modelul auto-regresiv (AR) . . . . . . . . . . . . . . . . . . . 103
8.3 Desf asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 104
8.4 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 110
9 Tranformate unitare. Compresia semnalelor 111
9.1 Transformate unitare . . . . . . . . . . . . . . . . . . . . . . . 111
9.2 Transformata Karhunen-Loeve . . . . . . . . . . . . . . . . . 112
9.3 Transformata COS . . . . . . . . . . . . . . . . . . . . . . . . 115
9.4 Desfasurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 117
9.5 Exercit ii si teme propuse . . . . . . . . . . . . . . . . . . . . . 123
Bibliograe 124
A Lista de funct ii Matlab utilizate 127
1
CUPRINS
2
Lucrarea 1
Introducere n Matlab
1.1 Matlab - Scurta prezentare
Matlab-ul este un pachet de programe dezvoltat de rma Mathworks. El
este destinat, n special, etapei de cercetare si testare, implementarea deni-
tiv a (si ecient a) ind l asat a pe seama altor medii de dezvoltare cum ar
Visual C, Fortran, Java etc.
Din punct de vedere al modului n care trateaz a codul, Matlabul este un
interpretor. Un interpretor presupune expandarea ec arei linii din progra-
mul surs a n cod executabil.
Numele provine de la mbinarea termenilor englezesti ce denumesc ma-
tricea si laboratorul. Asadar, Matlab-ul este un mediu de dezvoltare n
care unitatea de baz a este matricea.
Rutinele si funct iile disponibile n Matlab sunt de dou a tipuri:
built-in - deja compilate.

In marea lor majoritate au fost dezvoltate
n Fortran si n C. Aceste rutine implementeaz a operat iile matematice
uzuale n calculul matriceal si sunt sucient de optimizate nc at un
program scris ntr-un mediu de dezvoltare uzual (gen Visual C) cu
greu le poate depasi performant ele.
editabile - funct ii dezvoltate n Matlab ce se bazeaz a pe rutinele de
tip built-in.

In cea mai mare parte a lor urm aresc implementarea
direct a a diferit ilor algoritmi matematici.
Si totusi de ce Matlab? Per total nu este mai rapid, nu este mai ieftin.
R aspunsul st a n num arul foarte mare de funct ii matematice disponibile si
n facilit at ile de vizualizare si investigare a datelor.
Pentru evident ierea acestor tr as aturi s a consider am un exemplu simplu:
S a se calculeze suma elementelor unei matrice A.
O implementare n C poate :
float s = 0;
for {int i=0; i<nLinii; i++}
for {int j=0; j<nColoane; j++}
s += a[i][j];
3
LUCRAREA 1. INTRODUCERE N MATLAB
Implementarea n Matlab este:
s = sum(a(:));
1.2 Detalii de implementare
1.2.1 Interfat a cu utilizatorul
Fereastra principala a Matlab-ului cont ine urm atoarele sect iuni:
Command window - aici se lucreaz a n linie de comand a (similar cu
comenzile din DOS).
Workspace - cont ine imaginea variabilelor existente la momentul curent
n spat iul de lucru. Valorile stocate n ecare din aceste variabile se
pot vizualiza prin selectarea lor cu mouse-ul.
Command history - cont ine nregistr arile comenzilor date anterior.
Utilizarea s aget ii n sus este echivalent a cu rescrierea comenzii prece-
dente n Command window.
Current directory - cont ine imaginea directorului curent. Acesta se
poate selecta si dintr-o casut a de dialog plasat a deasupra Commmand
window-ului.

In plus, Matlab-ul cont ine un mediu de editare. Trebuie s a preciz am c a n


Matlab se poate lucra at at n linie de comand a c at si n siere de tip .m.
Un sier de tip .m poate cont ine o funct ie sau un script. Un script este
echivalent cu o nsiruire de comenzi n linia de comand a.
1.2.2 Tipuri de date
Tipul de date de baz a n Matlab este double. Orice variabil a nou creat a este
declarat a implicit de tip double si stocat a pe 6 octet i. Pentru acest tip sunt
denite toate operat iile matematice si logice uzuale. Alte tipuri numerice
suportate sunt : integer (cu formele uint8, int8, uint16, int16), logical si
complex.
Caracterele literare sunt reprezentate prin tipul char. Tipuri complexe
sunt stucturile (struct) si celulele (cell ).
Pentru a aa detalii suplimentare despre acestea se tasteaz a comanda
magic a n Matlab: help urmat a de numele tipului de date.
1.2.3 Instruct iuni de baza
Instruct iuni condit ionate:
forma general a a unei expresii de tip if (select ie simpl a) este:
if expresie
bloc de instruct iuni
elseif expresie
bloc de instruct iuni
else expresie
4
1.2. Detalii de implementare
bloc de instruct iuni
end
forma generala a unei expresii de tip switch (select ie multipl a)
este:
switch expresie
case caz-expresie
bloc de instruct iuni
case caz-expresie
bloc de instruct iuni
. . . . . . . . . . . .
otherwise
bloc de instruct iuni
end
Instruct iuni repetitive:
forma generala a unei expresii de tip for (ciclu cu num ar nit de
pasi ) este:
for variabil a = valoare init ial a : pas : valoare nal a
bloc de instruct iuni
end
forma generala a unei expresii de tip while (ciclu cu condit ie de
ciclare ) este:
while expresie
bloc de instruct iuni
end
Instruct iuni de control al codului:
break - fort eaz a terminarea unei instruct iuni ciclice (while sau
for).
continue - paseaz a controlul iterat iei urm atoare din instruct iunea
ciclic a curent a.
1.2.4 Help n Matlab
Exist a dou a posibilit at i de a obt ine ajutor n Matlab:
1. Prin linie de comand a -cu ajutorul cuv antului cheie help scris naintea
numelui unei instruct iuni, funct ii sau tip de date. Dac a ne referim la
o funct ie ce este scris a n Matlab atunci se va asa textul comentat
1
ce preced a sau urmeaz a imediat dup a linia ce cont ine cuv antul cheie
function.
Exemplu: help sum va duce la asarea secvent ei:
SUM Sum of elements. For vectors, SUM(X) is the sum of the
elements of X. For matrices, SUM(X) is a row vector with the
sum over each column. For N-D arrays, SUM(X) operates along
1
Pentru a comenta o linie se pune procent % la nceputul ei.
5
LUCRAREA 1. INTRODUCERE N MATLAB
the first non-singleton dimension.
SUM(X,DIM) sums along the dimension DIM.
Example: If X = [0 1 2
3 4 5]
then sum(X,1) is [3 5 7] and sum(X,2) is [ 3
12];
See also PROD, CUMSUM, DIFF.
Overloaded methods
help sym/sum.m
Alt a comanda util a este lookfor. Aceasta se poate folosi c and se
caut a o funct ie cu anumite caracteristici, dar nu se cunoaste numele ei
exact. Comanda va asa toate funct iile care n prima linie a help-ului
cont in cuv antul introdus de utilizator si care denumeste caracteristica
dorit a.
De exemplu comanda lookfor sum va asa ceva de tipul (asarea se
intrerupe cu CTRL+C):
TRACE Sum of diagonal elements.
CUMSUM Cumulative sum of elements.
SUM Sum of elements.
SUMMER Shades of green and yellow colormap.
2. Folosind opt inea Help din meniu-ul Matlab-ului se va porni o fereastr a
cu o alc atuire tipic a pentru help-ul programelor care ruleaz a sub Win-
dows.
1.2.5 Funct ii
Forma de baza - sintaxa
Funct iile n Matlab se scriu n siere de tip .m. Numele sierelor de tip .m
trebuie s a nceap a cu o liter a si nu trebuie s a cont in a spat iu sau alte carac-
tere speciale. Aceste siere vor avea, de preferint a, acelasi nume ca si cel al
funct iei pe care o cont in. O funct ie scris a n sierul altei funct ii este vizibil a
numai n interiorul funct iei n al c arei sier rezidu a. Pentru ca o funct ie s a
poat a apelat a de la linia de comand a sau din alt sier, ea trebuie scris a
prima in sierul de tip .m.
Un sier care cont ine o funct ie are form a standard:
function [VarOut1, VarOut2, ...] = NumeFunct ie (VarIn1, VarIn2,
...);
%bloc de comentarii: acest bloc va fi vizibil
%^ n cazul tast arii help NumeFunct ie.
%Este bine s a existe si s a cont in a o scurta descriere a funct iei.
6
1.2. Detalii de implementare
BLOC de INSTRUCT IUNI
Pentru o terminare prematur a a funct iei se poate folosi instruct iunea re-
turn. Altfel aceast a instruct iune nu este necesar a pentru terminarea funct iei,
aceasta ncheindu-se la ultima comand a din sier, sau, dac a sierul mai
cont ine si alte funct ii, la nceputul urm atoareia.
Cateva funct ii uzuale
Se vor prezenta n continuare c ateva funct ii cu larg a utilitate n mediul
Matlab. Pentru a aa mai multe detalii despre semnicat ia parametrilor
este bine s a se tasteze help urmat de numele funct iei. Ideea general a este c a
funct iile se aplic a unui vector; dac a se aplic a unei matrice operat ia respectiv a
se va aplica vectorilor coloan a, rezultatul ind un vector linie.
round, ceil, oor - transform a valorile reale n valori ntregi (rotun-
jire, marire, trunchere);
max - extrage valoarea maxim a precum si pozit ia (indicele) ei n vec-
tor;
min - funct ioneaza similar, dar se refer a la valoarea minim a;
mean - returneaza valoarea medie a elementelor vectorului;
sort - sorteaz a n ordine cresc atoare valorile din vector;
size - ntoarce dimensiunile matricei / vectorului (num ar de linii,
coloane,...);
sum - suma valorilor vectorului;
prod - produsul valorilor vectorului;
di - diferent a a dou a c ate dou a elemente consecutive;
fprintf - aseaz a un mesaj la consol a;
input - permite introducerea de la consol a a unei valori.
1.2.6 Vectori si matrice
Pentru generarea unei matrice se pot folosi urm atoarele funct ii sau instruct iuni
(un vector poate privit ca o matrice cu o singur a linie sau o singur a
coloan a). Exemplu:
A = [-1 7; 4 12]; B = [2, 6; 5, 2];
scriere explicit a - ntre paranteze drepte se scriu elementele: cele de
pe aceeasi linie sunt separate de spat iu sau de virgul a, n timp ce
liniile sunt separate de ;. Elementele unei matrice pot la r andul
lor matrice, realiz andu-se astfel operat ia de concatenare (este necesar a
potrivirea num arului de linii si de coloane).
7
LUCRAREA 1. INTRODUCERE N MATLAB
ones(nLinii,nColoane) - genereaz a o matrice de (nLinii,nColoane)
avand toate valorile egale cu 1.
zeros(nLinii,nColoane) - genereaz a o matrice de (nLinii,nColoane)
avand toate valorile egale cu 0.
eye(nLinii) - genereaz a matricea unitate de dimensiune nLinii.
NumeVector = ValoareInitial a : pas : ValoreaFinal a - genereaz a
un vector avand elementelen progresie aritmetic a (similar cu instruct iunea
for).
1.2.7 Operat ii cu matrice
In Matlab sunt implementate urm atoarele operat ii aritmetice cu matrice:
adunare matriceal a: +
Linia C = A+B va asa C = [1, 13; 9, 14].
sc adere matriceal a: -
Linia C = A-B va asa C = [-3, 1; -1, 10].
nmult ire matriceal a: *
Linia C = A*B va asa C = [33, 8; 68, 48].
mpart ire matriceal a: /. Aceast a operat ie este echivalent a cunmult irea
cu inversa. Inversa unei matrice se calculeaz a cu inv().
Linia C = inv(A) va asa C = [-0.3000, 0.1750; 0.1000, 0.0250].
Linia C = A*inv(A) va asa C = [1.0000, 0; 1.0000, 0].
operat ii element cu element: Punerea unui punct n fat a semnului core-
spunz ator unei operat ii presupune c a acea operat ie se face element cu
element. Astfel exist a nmultire scalar a: .*, mp art ire scalar a: ./, ridi-
care la putere: ..
Linia C = A.*B va asa C = [-2, 42; 20, 24].
Linia C = A./B va asa C = [-0.5000, 1.1667; 0.8000, 6.0000].
Linia C = A.^2 va asa C = [1, 49; 16, 144].
Operat iile logice uzuale, dac a se aplic a unor matrice, se aplic a element
cu element.
1.2.8 Graca n Matlab
Pentru vizualizarea grac a a funct iilor unidimensionale se foloseste funct ia
plot. Alte moduri de vizualizare ale gracelor unidimensionale se obt in prin
utilizarea funct iilor bar si stem.
Pentru vizualizarea unei funct ii denit a pe R
2
cu valori n R (al c arei
grac este o suprafat a) se pot folosi funct iile surf sau mesh.
Reprezent arile grace se aseaz a ntr-o fereastr a Matlab. O fereastr a
nou a se deschide cu ajutorul funct iei gure si se nchide cu close. In mod
implicit, ecare gur a cont ine o singur a zon a de desenare. Dac a se doreste
8
1.2. Detalii de implementare
asarea mai multor grace n cadrul aceleiasi ferestre, n aceeasi zon a se
utilizeaz a funct ia hold. Dac a, ns a, se doreste mp art irea ferestrei n mai
multe zone se vor folosi facilit at ile funct iei subplot.
9
LUCRAREA 1. INTRODUCERE N MATLAB
1.3 Desfasurarea lucrarii
1.3.1 Vectori si funct ii
1. Se denesc vectorii linie v1 = [1, 3, 5, 7, 9] si v2 = [7, 3, 8, 1, 2]. S a se
calculeze v1 + v2, v1 v2, v1 v2
T
, v1. v2. S a se execute aceleasi
operat ii cu dou a matrice A si B de dou a linii si dou a coloane.
Rezolvare:
v1 = 1:2:9;
v2 = [7, 3 8 1 -2];
v adun = v1+v2
v scad = v1-v2
v prod = v1*v2

v prodscalar = v1.*v2
2. S a se genereze o matrice de dimensiunea 2x3 care are valorile de pe
prima linie egale cu 0, iar cele de pe a doua cu -2.
Rezolvare:
A=[zeros(1,3) ; (-2)*ones(1,3)]
3. Se considera funct ia f
0
(t) = cos(t), unde t [10, 10]. Domeniul de
denit ie este discretizat cu pasul 0.05. S a se deseneze gracul funct iei
f
0
(t). Aceeasi problem a pentru f
1
(t) = sin(t), f
2
(t) = tg(t).
Rezolvare:
t = -10:0.05:10;
f = cos(t);
plot(t, f,

.k

);
Prima observat ie este c a funct iile uzuale matematice (cum ar sin,
cos, tan, exp, log) se aplic a element cu elementn cazul n care parametru
de intrare este un vector sau o matrice. In cazul de fat a, va rezulta
gracul funct iei cos ntr-o fereastr a Matlab (vezi gura 1.1).
10 8 6 4 2 0 2 4 6 8 10
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
Figura 1.1: Problema 3: Funct ia cos.
10
1.3. Desf asurarea lucr arii
4. Se considera funct ia f
0
(t) = cos(t), unde t [2, 2]. S a se calculeze
si s a se reprezinte pe acelasi grac derivata si integrala funct iei. S a se
ae pozit iile trecerilor prin zero ale derivatei.
Rezolvare:
Funct ia este denit a pe un suport discret. In acest caz derivata unei
funct ii continue se aproximeaz a cu ajutorul diferent elor nite, iar in-
tegrala se aproximeaz a cu ajutorul sumei cumulative.
t = -2*pi:0.1:2*pi;
f = cos(t);
df = diff(f)/0.1; %aproximarea derivatei - viteza de variat ie
Integf = cumsum(f)*0.1; %aproximarea integralei - aria subgraficului
plot(t, f,

k

); %functia
hold on; plot(t(1:end-1), df,

b

);
% derivata - nu se poate calcula in ultimul pct
plot(t, Integf,

r

); % integrala
zero cross = [ ];
%init ializam sirul indicilor pentru trecerile prin zero
for i = 1:length(df)-1
if (df(i)*df(i+1) <= 0)
zero cross = [zero cross i];
end;
end
plot( t(zero cross), zeros(size(zero cross)),

*g

), hold off;
Rezultatul grac al acestui exercit iu se poate vedea n gura 1.2:
8 6 4 2 0 2 4 6 8
1
0.5
0
0.5
1
1.5
Figura 1.2: Problema 4: Funct ia cos, derivata si integrala ei. Pozit iile
intersect iilor gracului derivatei cu abscisa.
Tema: Explicat i de ce trecerile prin zero ale derivatei sunt deviate de la
gracul funct iei.
5. S a se scrie un program (script) care calculeaz a n! (n factorial). Val-
11
LUCRAREA 1. INTRODUCERE N MATLAB
oarea lui n se citeste de la tastatur a (folosind funct ia input), iar rezul-
tatul se aseaz a la consol a (asarea se poate face cu funct ia fprintf
sau nepun and ; la sf arsitul liniei n care se calculeaz a n!).
Rezolvare:
n = input(

introduceti n:

);
m = 1:n;
nfact = prod(m);
fprintf(

valoare ceruta este n! = %d

,nfact);
6. Fie un sistem de 2 ecuat ii cu 2 necunoscute dat prin relat ia matriceal a
: Ax = b. Matricea A precum si vectorul b se introduc de tastatur a
(sunt date). S a se rezolve acest sistem.
Indicat ie:
Solut ia sistemului este dat a de relat ia x = A
1
b. Sistemul are solut ie
dac a determinantul det(A) este nenul.
1.3.2 Variabile aleatoare - recapitulare

In aceast a sect iune vom reaminti densit at ile de probabilitate si funct iile de
repartit ie a c atorva tipuri uzuale de variabile aleatoare continue.
1. Variabila aleatoare distribuita uniform n intervalul [a, b]:
Densitatea de probabilitate (vezi gura 1.3):
w

(x)
b,a
=
_
1
ba
, dac a x [a, b]
0 , n rest
(1.1)
Funct ia de repartit ie:
F

(x)
b,a
=
_
_
_
0 , dac a x (, a)
xa
ba
, dac a x [a, b]
1 , dac a x (b, +)
(1.2)
2. Variabila aleatoare distribuita gaussian:
Densitatea de probabilitate (vezi gura 1.4):
w

(x)
,
=
1

2
exp
_

(x )
2
2
2
_
, dac a x R (1.3)
Funct ia de repartit ie nu poate exprimat a analitic.
3. Variabila aleatoare distribuita exponent ial:
12
1.3. Desf asurarea lucr arii
6 4 2 0 2 4 6 8 10
0
0.05
0.1
0.15
0.2
0.25
0.3
0.35
w

uniforma in [3, 3]
uniforma in [4, 7]
Figura 1.3: Densitatea de probabilitate a unei variabile aleatoare distribuit a
uniform. Particularizare pentru dou a seturi de valori ale intervalului [a,b].
100 80 60 40 20 0 20 40 60 80 100
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
0.04
w

Gaussiana cu
= 0 si = 30
Gaussiana cu
= 10 si = 20
Figura 1.4: Densitatea de probabilitate a unei variabile aleatoare distribuit a
gaussian pentru diferite valori ale parametrilor. Se arat a c a este media,
n timp ce este dispersia variabilei aleatoare.
Densitatea de probabilitate (vezi gura 1.5):
w

(x)

=
_
exp(x) , dac a x (0, +)
0 , n rest
(1.4)
unde este parametru real pozitiv.
4. Variabila aleatoare distribuita Rayleigh:
Densitatea de probabilitate (vezi gura 1.6):
w

(x) =
_

_
x

2
exp
_

x
2
2
2
_
, dac a x 0
0 ,n rest.
(1.5)
13
LUCRAREA 1. INTRODUCERE N MATLAB
2 0 2 4 6 8 10
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
w

exponentiala de parametru 2
exponentiala de parametru 1/2
Figura 1.5: Densitatea de probabilitate a unei variabile aleatoare distribuit a
exponent ial. Particularizare pentru diferite valori ale parametrului .
2 0 2 4 6 8 10
0
0.2
0.4
0.6
0.8
1
1.2
w

Rayleigh de parametru 1/2


Rayleigh de parametru 2
Figura 1.6: Densitatea de probabilitate a unei variabile aleatoare distribuit a
dup a o lege Rayleigh. Particularizare pentru diferite valori ale parametrului
.
V a propunem, n continuare, s a scriet i pentru ecare tip de variabil a
aleatoare c ate o funct ie care accept a drept intr arii parametri variabilei aleatoare,
aseaz a pe acelasi grac densitatea de probabilitate si funct ia de repartit ie
si prezint a la iesire valorile densit at ii de probabilitate.
Exemplu de rezolvare. Se va considera cazul variabilei Gaussiene. Apar
c ateva probleme din cauza faptului c a se lucreaz a ntr-un spat iu discret.
Desi teoretic acest tip de variabil a aleatoare este denit a pe toat a mult imea
numerelor reale, practic acest lucru este imposibil de realizat, asa c a vom
restr ange studiul la un domeniu nit (un interval nit, discretizat). Asa
cum s-a precizat, nu este posibil a o scriere analitic a a funct iei de repartit ie.
In practica ns a se pot determina valori numerice ce aproximeaz a punctele
acesteia. Tinandu-se seam a de relat ia dintre funct ia de repartit ie si densi-
tatea de probabilitate se va aproxima integrala celei din urm a.
14
1.3. Desf asurarea lucr arii
function [w]=gauss var(mu,sigma,dom min,dom max);
x=dom min:1:dom max;
w=(1/(sigma*sqrt(2*pi)))*exp(-(x-mu).^2/(2*sigma^2));
F=cumsum(w); %functia de repartit ie
subplot(1,2,1);plot(x , w,

k

)
subplot(1,2,2);plot(x , F,

b

);
Aceast a funct ie se salveaz a ntr-un sier denumit gauss var.m. Pentru a
se apela se tasteaza urm atoarele n linia de comand a:
dom min = -100;
dom max = 100;
mu = -15;
sigma = 25;
w = gauss var(mu,sigma,dom min,dom max);
Rezultatul grac al secvent ei de cod se poate vedea n gura 1.7.
100 75 50 25 0 25 50 75 100
0
0.002
0.004
0.006
0.008
0.01
0.012
0.014
0.016
w

100 75 50 25 0 25 50 75 100
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
F

Figura 1.7: Densitatea de probabilitate si funct ia de repartit ie a unei vari-


abile gaussiene.
Tema: Alegerea altui pas de discretizare a domeniului (absciselor) va duce
la rezultate ciudate (funct ia de repartit ie va lua valori n afara intervalului [0, 1]).
Explicat i de ce si modicat i programul astfel ncat sa rezolvat i problema.
15
LUCRAREA 1. INTRODUCERE N MATLAB
1.4 Exercit ii si teme propuse
1. Ce este un interpretor?
2. Care este diferent a dintre funct ia surf si funct ia mesh?
3. Cum se poate genera o matrice ce are valorile de pe ecare linie egale
cu indexul liniei?
4. Cum se pot aa punctele de extrem locale ale unei suprafet e stocat a
sub forma unei matrice? Dar punctele sa (acele puncte care sunt de
maxim pe o direct ie si de minim pe alta)?
5. S a se scrie o funct ie care calculeaz a r ad acinile unei funct ii date. Par-
ticularizare pentru f
1
(x) = x
5
+ x
3
+ 1, f
2
(x) = sin(x) + cos(x),
f
3
(x) = sinc(x).
6. S a se scrie o funct ie care calculeaz a C
k
n
.
16
Lucrarea 2
Studiul variabilelor aleatoare
2.1 Variabile aleatoare
Variabila aleatoare este o funct ie denit a pe mult imea realiz arilor partic-
ulare ale unui experiment - cu valori reale. Este o metod a de a mod-
ela matematic (adic a de a putea conferi propriet at i si formule concrete) o
not iune abstract a (cum sunt evenimentele rezultate dintr-un experiment).
Matematic, o variabil a aleatoare se caracterizeaz a complet prin funct ia
sa de repartit ie sau, echivalent, prin densitatea sa de probabilitate. Aceast a
funct ie poate , n unele cazuri, o cunostint a prea puternic a: pentru a de-
termina o funct ie trebuie cunoscute valorile ei n toate punctele n care este
denit a, ceea ce, uneori, este imposibil de obt inut.

In acest caz solut ia
este oferit a de un set (teoretic innit, practic nit) de valori numerice care
surprind diferite particularitat i ale ei. Acestea sunt momentele statistice.
Relat ia dintre densitatea de probabilitate si momentele statistice este simi-
lar a cu aproximarea unui cerc printr-un poligon cu num ar din ce n ce mai
mare de laturi. Momentele statistice de ordin mic relev a informat ii despre
tr as aturile de baz a ale densit at ii de probabilitate; similar, un poligon cu
put ine laturi surprinde informat iile esent iale de m arime ale cercului pe care
l aproximeaz a. Momentele statistice de ordin superior prezint a detalii din
ce n ce mai put in semnicative ale densit at ii de probabilitate, la fel cum
ad augarea de noi laturi mbun at at este cu put in forma estimat a a cercului.

In continuare vom reaminti c ateva denit ii si propriet at i importante


legate de caracterizarea variabilelor aleatoare.
Fie spat iul realiz arilor particulare ale unui experiment si e o vari-
abil a aleatoare: : R. Atunci:
Funct ia de repartit ie se deneste ca ind:
F

(x) = P( x) (2.1)
Propriet at ile funct iei de repartit ie sunt:
Codomeniul este [0, 1]. Aceast a proprietate este o consecint a di-
rect a a faptului c a funct ia de repartit ie ntr-un punct este o pro-
babilitate.
17
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
Valoarea la :
F

() = P( ) = 0 (2.2)
Variabila aleatoare ia valori reale; nici un num ar real nu este mai
mic dec at . O propozit ie echivalent a este: probabilitatea de
aparit ie a unui num ar mai mic dec at este nul a.
Valoarea la +:
F

(+) = P( +) = 1 (2.3)
Probabilitatea ca variabila aleatoare s a ia valori ntr-un interval
este:
P( (x
1
, x
2
]) = F

(x
2
) F

(x
1
) (2.4)
Funct ia de repartit ie este cresc atoare:
dac a x
1
< x
2
F

(x
1
) F

(x
2
) (2.5)
Relat ia 2.5 este echivalent a cu a ar ata c a diferent a F

(x
2
)F

(x
1
)
nu este negativ a. Aceast a diferent a este chiar probabilitatea ca
variabila aleatoare s a ia valori n intervalul (x
1
, x
2
] care este o
cantitate nenegativ a.
Densitatea de probabilitate se deneste ca ind:
w

(x) =
dF

(x)
dx
(2.6)
Aceast a relat ie, privit a invers, permite calculul funct iei de repartit ie
din densitatea de probabilitate:
F

(x) =
_
x

(u)du (2.7)
Propriet at ile unei densit at i de probabilitate sunt:
Relat ia 2.4 se poate scrie si pentru densitatea de probabilitate:
P( (x
1
, x
2
]) =
_
x
2
x
1
w

(x)dx (2.8)
La limit a se obt ine condit ia de normare:
_
+

(x)dx = 1 (2.9)
Pentru o variabil a aleatoare continu a valoarea densit at ii de pro-
babilitate ntr-o vecin atate innitezimal a a unui punct d a o idee
despre sansa ca variabila aleatoare considerat a s a ia valori n in-
tervalul (vecin atatea) respectiv. Condit ia de normare poate
formulat a si astfel: Probabilitatea ca variabila aleatoare s a ia o
valoare din R este 1.
18
2.1. Variabile aleatoare
Dac a variabila aleatoare este continu a, atunci funct ia sa de repartit ie
si densitatea sa de probabilitate vor funct ii continue. Dac a
variabila aleatoare este discret a atunci funct ia de repartit ie este
o funct ie n trepte, iar densitatea de probabilitate este o suma de
impulsuri Dirac (va ap area c ate un impuls Dirac n ecare punct
al codomeniului variabilei aleatoare).
Momentul necentrat de ordin k se deneste ca ind:
m
(k)

=
_
+

x
k
w

(x)dx (2.10)
Cele mai folosite sunt momentele necentrate de ordinul 1 si 2.
Momentul necentrat de ordinul 1 se numeste media variabilei
aleatoare:
m
(1)

= =
_
+

xw

(x)dx (2.11)
Dac a consideram subgracul densit at ii de probabilitate ca ind
un obiect de grosime constant a, atunci media ne va indica abscisa
centrului de greutate al acestui obiect.
Momentul necentrat de ordinul 2 se numeste medie patratica:
m
(2)

=
2
=
_
+

x
2
w

(x)dx (2.12)
Dac a variabila aleatoare modeleaz a o m arime zic a, media p atratic a
poate vazut a ca energia medie a acelei m arimi.
Momentul centrat de ordin k se deneste ca ind:
M
(k)

=
_
+

(x )
k
w

(x)dx (2.13)
Un calcul simplu arat a c a momentul centrat de ordin 1 este nul.
Momentul centrat de ordinul 2 este cunoscut ca variant a vari-
abilei aleatoare:
M
(2)

=
2

=
_
+

(x )
2
w

(x)dx (2.14)
Se poate ar ata c a:

=
2

2
(2.15)
R ad acina pozitiva a variant ei se numeste dispersie. Disper-
sia este o masur a a mpr astierii valorilor posibile ale variabilei
aleatoare fat a de medie.
Momentele centrate de ordin superior dau informat ii despre asime-
tria fat a de medie, despre ascut imea (sau reciproc turtirea) sau
despre rotunzimea densit at ii de probabilitate.
19
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
Funct ii de o variabila aleatoare:
Dac a exista o variabil a aleatoare : D
1
R cu densitatea de
probabilitate w

(x) dat a si o variabil a aleatoare : D


2
R,
astfel nc at = g = g() unde funct ia g : D
1
D
2
are un num ar
cel mult num arabil de solut ii n orice punct al codomeniului, atunci:
w

(y) =

k
w

(x
k
)
|g

(x
k
)|
=

k
w

(g
1
(y))
|g

(g
1
(y))|
unde x
k
sunt r ad acinile ecuat iei g(x) = y
(2.16)
2.2 Principiul inversarii funct iei de repartit ie
Acest rezultat important ofer a o solut ie la problema gener arii unei variabile
aleatoare continue av and o distribut ie (densitate de probabilitate) cunos-
cut a. Masinile moderne de calcul ofer a generatoare de numere pseudo-
aleatoare provenind dintr-o densitate de probabilitate uniform a n [0, 1].
1
Cerint a este s a se obt in a numere aleatoare distribuite conform unui model
(densit at i de probabilitate) impus folosind aceste valori generate.
Formularea matematic a a problemei amintite poate : Fie variabila
aleatoare distribuit a uniform n [0,1]. Fie variabila aleatoare av and
w

(y) cunoscut. Se caut a funct ia g(x) astfel nc at g = g() = .


Pentru rezolvare, vom pleca de la formula 2.16. Cea mai simpl a solut iei a
problemei este s a c aut am funct ia g bijectiv a si cresc atoare. Bijectivitatea ne
asigura unicitatea solut iei (si atunci se poate renunt a la sum a), iar monoto-
nia astfel aleas a asigur a derivata pozitiv a (deci disparit ia modului). Formula
2.16 devine:
w

(y) =
w

(g
1
(y))
g

(g
1
(y))
(2.17)
Domeniul de denit ie al funct iei g este mult imea n care ia valori (in-
tervalul [0,1]) si, deci, g
1
va lua valori n acest interval.
Pe de alt a parte, densitatea de probabilitate a unei variabile uniform
distribuite n [0, 1], adic a , este:
w

(x) =
_
1 , dac a x [0, 1]
0 , n rest
(2.18)
Relat ia 2.17 devine:
w

(y) =
1
g

(g
1
(y))
1
Generatoarele de numere aleatoare pornesc de la o valoare init iala, numita samant a
si, prin aplicarea unor relat ii numerice, permit obt inerea de numere care respecta, n linii
mari, anumit i parametri statistici (densitate de probabilitate, momente statistice, etc. . . ).
Un perfect aleatorism presupune imposibilitatea identicarii unor secvent e repetate ntr-
un sir innit de numere astfel generate; nerespectarea acestei condit ii duce la secvent e
pseudo-aleatoare. Tipic, samant a este o cifra obt inuta de la ceasul sistemului. Metodele
numerice ment ionate cont in operat ii oarecum haotice: ridicare la 1.4, pastrarea ultimelor
sapte cifre, permutari circulare ntre cifrele numarului obt inut, etc (vezi [8]). Practic se
obt in secvent e pseudo-aleatoare n care perioada este de ordinul a 2
32
.
20
2.2. Principiul invers arii funct iei de repartit ie
Numitorul poate adus la o form a mai simpl a. Se porneste de la iden-
titatea cunoscut a:
g(g
1
(y)) = y
si dac a se deriveaz a:

y

g

(g
1
(y)) (g
1
(y))

= 1
g

(g
1
(y)) =
1
(g
1
(y))

Astfel se obt ine:


w

(y) = (g
1
(y))


g
1
(y) =
_
y

(u)du = F

(y)
(2.19)
Relat ia 2.19 reprezint a principiul invers arii funct iei de repartit ie. Acesta
spune c a, dac a se doreste obt inerea unui set de valori distribuite conform
densit at ii de probabilitate w

(y), atunci funct ia care trebuie aplicat a unui set


de valori provenind dintr-o varibil a aleatoare uniform a n [0,1] este inversa
funct iei de repartit ie a variabilei aleatoare c autate, .
Mai mult, se poate verica faptul c a funct ia de repartit ie a unei variabile
aleatoare continue veric a cerint ele suplimentare impuse funct ei g:
ia valori n intervalul [0,1]; deci inversa ei are drept domeniu de denit ie
acest interval;
este bijectiv a (asadar se poate inversa);
este crescatoare, monotonie pe care o p astreaz a si inversa.
Practic, pentru a obt ine valori distribuite conform unei legi alese, w

(y), se
procedeaza astfel:
1. Se calculeaza funct ia de repartit ie, F

(y) a variabilei dorite


2
;
2. Se calculeaza inversa funct iei de repartit ie: g(y) = F
1

(y);
3. Se genereaz a valori distribuite uniform n [0,1];
4. Se aplica g valorilor astfel obt inute.
Acest principiu este utilizat n practic a si pentru trecerea de la o lege oare-
care la alta: se trece mai nt ai de la legea init ial a la o distribut ie uniform a
n [0,1] folosindu-se direct funct ia de repartit ie; apoi se face trecerea de
la variabila cu densitate de probabilitate uniform a n [0, 1] la legea dorit a
folosindu-se inversa funct iei de repartit ie a variabilei aleatoare dorite.
2
Este necesar ca funct ia de repartit ie sa admita o forma analitica si sa e inversabila.
21
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
2.2.1 Exemple
Se pune problema gener arii unor numere distribuite confom unor legi impuse
ind disponibile realiz ari particulare ale unei distribut ii uniforme n [0,1].
Trebuie calculate funct iile care s a asigure transformarea necesar a.
1. Distribut ie de tip uniform n [a,b]. Densitatea de probabilitate a
unei astfel de variabile este (vezi1.1):
w

(x)
a,b
=
_
1
ba
, pentru x [a, b]
0 , n rest
unde a < b sunt doi parametri reali. Funct ia sa de repartit ie este:
F

(x)
a,b
=
_
_
_
0 , dac a x (, a)
xa
ba
, dac a x [a, b]
1 , dac a x (b, +)
(2.20)
Funct ia g obt inut a ca ind inversa funct iei de repartit ie (pe intervalul
pe care aceasta admite invers a) este:
g : [0, 1] [a, b] , g(y) = F
1

(y) = a + (b a)y (2.21)


2. Distribut ie de tip exponent ial. Reamintim c a densitatea de proba-
bilitate a unei variabile de acest tip (dat a n 1.4) este:
w

(x)

=
_
exp(x) , dac a x (0, +)
0 , n rest
unde este un parametru real pozitiv. Un calcul al funct iei de repartit ie
arat a c a:
Dac a x < 0 , F

(x) = 0;
Dac a x 0, atunci
F

(x) =
_
x
0
w

(u)du =
_
x
0
exp(u)du = 1 exp(x)
Deci:
F

(x) =
_
0 , pentru x < 0
1 exp(x) , pentru x 0
Funct ia c autat a (vezi gura 2.1) este inversa funct iei de repartit ie:
g : [0, 1] (0, +) , g(y) = F
1

(y) =
1

ln(1 y) (2.22)
3. Distribut ie de tip Rayleigh. Densitatea de probabilitate de tip Rayleigh
este (vezi 1.5):
w

(x) =
_
x

2
exp
_

x
2
2
2
_
, dac a x 0
0 , n rest.
.
unde este un parametru real pozitiv. S a calcul am funct ia de repartit ie
:
22
2.2. Principiul invers arii funct iei de repartit ie
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0
5
10
15
20
25
30
35
y
g(y)=F

1
(y)
Figura 2.1: Inversa funct iei de repartit ie a unei variabile aleatoare distribuit a
exponent ial cu = 0.2.
Dac a x < 0, atunci F

(x) = 0;
Dac a x 0, atunci:
F

(x) =
_
x
0
w

(u)du =
_
x
0
u

2
exp
_

u
2
2
2
_
du =
= exp
_

u
2
2
2
_

x
0
= 1 exp
_

x
2
2
2
_
Deci:
F

(x) =
_
0 , pentru x < 0
1 exp
_

x
2
2
2
_
, pentru x 0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
y
g(y)=F

1
(y)
Figura 2.2: Inversa funct iei de repartit ie a unei distribut ii de tip Rayleigh
cu = 0.2.
Funct ia c autat a (vezi gura 2.2) este inversa funct iei de repartit ie:
g : [0, 1] (0, +) , g(y) = F
1

(y) =
_
2
2
ln(1 y) (2.23)
23
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
2.3 Histograma si histograma cumulativa
In general, n practic a avem la dispozit ie un num ar de realiz ari particulare
ale unei variabile aleatoare (o populat ie). De multe ori vom dori s a construim
o aproximare a densit at ii de probabilitate si/sau a funct iei de repartit ie.
Pentru aceasta trebuie stiut c a densitatea de probabilitate se aproximeaz a
prin histogram a, iar funct ia de repartit ie prin histograma cumulativ a.
Pentru a surprinde dedesubturile acestei amat ii vom arunca o privire
Figura 2.3: O histogram a.
n [3], unde, n dreptul histogramei vom g asi: grac care reprezint a prin
dreptunghiuri o distribut ie statistic a. Un asemenea grac poate v azut n
gura 2.3.
Pentrunceput vom aminti c a, n practic a, probabilitatea se aproximeaz a
prin frecvent a relativ a de aparit ie:
probabilitate frecvent a relativ a =
num ar de cazuri favorabile
num ar de cazuri totale
(2.24)
Pentru a construi histograma variabilei aleatoare plec and de la un set
de realiz ari particulare vom folosi formula 2.8. Putem aproxima densitatea
de probabilitate numai pe intervalul dintre cea mai mic a si cea mai mare
realizare particular a din setul disponibil. Acest interval va mp art it n
subintervale mai mici si vom calcula probabilitatea ca variabila aleatoare s a
ia valori n ecare astfel de subinterval (pe baza relat iei 2.24).
Conform formulei 2.8, aceast a probabilitate este egal a cu aria subgra-
cului funct iei densitate de probabilitate pe intervalul considerat. Dac a
aproxim am densitatea de probabilitate cu o funct ie constant a pe acest in-
terval, atunci subgracul ei va un dreptunghi (vezi gura 2.4) de baz a
egal a cu l at imea intervalului. Stiind aria si baza dreptunghiului, putem s a
i a am nalt imea.
Pentru a construi o histogram a trebuie urm arit i c at iva pasi.
1. Datele de intrare sunt formate dintr-o populat ie (un set de valori
reprezent and realiz arile particulare ale unei variabile aleatoare con-
tinue);
2. Se caut a intervalul n care acestea iau valori. Fiind vorba de un set
nit de date, intervalul va de l at ime nit a, chiar dac a variabila de
provenient a este denit a pe un domeniu de l at ime innit a;
24
2.3. Histograma si histograma cumulativ a
Figura 2.4: Aproximarea prin discretizare a unei funct ii: aproximarea
funct iei prin constante pe intervale si aproximarea integralei (subgracului
unei funct ii) prin sum a de dreptunghiuri.
3. Acest interval se mparte n subintervale egale. Se poate practica si o
mpart ire neuniform a, t in andu-se cont de statistica variabilei aleatoare
(similar a cu o cuantizare Lloyd-Max - vezi [1]);
4. Pentru ecare subinterval se num ar a c ate realiz ari particulare au valori
n interiorul lui. Dac a se mpart aceste valori la num arul total de
invizi se obt in frecvent ele relative de aparit ie ale variabilei aleatoare
n subintervalele considerate;
5. Se reprezint a valorile astfel calculate prin dreptunghiuri sau prin puncte
cu abscisa n mijlocul subintervalului. Alura gracului astfel reprezen-
tat va similara cu densitatea de probabilitate a variabilei aleatoare.
Se pune problema determin arii erorii de aproximare a densit at ii de pro-
babilitate prin histogram a. Aceast a construct ie are la baz a dou a aproxim ari;
masura erorii totale este data de suma erorilor introduse de ecare din cele
dou a.
Prima pierdere de precizie este cauzat a de aproximarea subgracului unei
funct ii cu o reuniune de dreptunghiuri. Precizia aproxim arii creste odat a cu
cresterea num arului de dreptunghiuri, adic a, n cazul nostru, c and crestem
num arul de subintervale considerate, crestere care se poate face n detrimen-
tul l at imii lor.
Cea de-a doua aproximare efectuat a este cea a estim arii probabilit at ii.
Baza ei este n legea numerelor mari
3
.

In acest caz, ar trebui s a avem un
num ar c at mai mare de valori pentru ecare interval. Dat ind c a, de obicei,
dimensiunea populat iei este x a (exist a un num ar dat de realiz ari particu-
lare disponibile), tendint a este de a creste dimensiunea intervalului pentru
a cuprinde c at mai mult i indivizi.
Concluzia n ceea ce priveste calitatea aproxim arii densit at ii de proba-
bilitate cu histograma este c a trebuie g asit un echilibru ntre dimensiunea
3
Legea numerelor mari precizeaza ca atunci cand numarul realizarilor particulare tinde
la innit frecvent a relativa tinde catre probabilitatea teoretica (vezi [5]).
25
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
populat iei disponibile si num arul de intervale considerate.
Dup a cum am ment ionat la nceputul acestei sect iuni, pentru a studia
funct ia de repartit ie se foloseste histograma cumulativ a. Ideea de baz a este
simpla: dac a o funct ie denit a pe un suport continuu f(t) este de fapt
disponibil a numai prin esantioane considerate periodic n interiorul domeni-
ului de denit ie, atunci integrala ei se poate aproxima printr-o sum a cumu-
lativ a (vezi si gura 2.4).
Dac a funct ia continu a f(t) cu t [a, b] se transform a ntr-o funct ie discret a
f(kT) = f(k) unde k
_
0, 1, . . . ,
_
b a
T
__
Atunci F(x) =
_
x
a
f(t)dt
k

i=1
Tf(i) = F(k) , unde x kT
(2.25)
Funct ia F(k) =

k
i=1
f(i) (dac a T=1) se numeste sum a cumulativ a
(ecare valoare este cumulul precedentelor). Dac a aplic am relat ia prece-
dent a denit iei funct iei de repartit ie si n loc de f folosim histograma h,
atunci se obt ine histograma cumulativ a:
H(k) =
k

i=1
h(i) (2.26)
Aceast a funct ie va avea alura funct iei de repartit ie. Dac a se doreste si re-
spectarea valorii teoretice la + (nu numai conservarea alurii) atunci e se
foloseste T = 1, e se pondereaz a totul cu perioada de esantionare.
26
2.4. Desf asurarea lucr arii
2.4 Desfasurarea lucrarii
1. Reprezentarea unei variabile aleatoare distribuite uniform. O realizare
a unei variabile aleatoare distribuite uniform n intervalul [0,1] se
obt ine cu ajutorul funct iei rand. O matrice n care ecare element este
o realizare a unei asemenea variabile se obt ine scriind rand(nLinii,nColoane).
De exemplu linia:
x = rand(1, 50);
va genera un vector linie de 50 elemente. Acest vector se poate con-
stitui ntr-o populat ie. Fiecare individ (sau, echivalent, element al
vectorului) este o realizare particular a a unei variabile aleatoare dis-
tribuite uniform n [0, 1]. Dac a se doreste vizualizarea valorilor se
poate tasta:
plot(x,

.k

);
0 5 10 15 20 25 30 35 40 45 50
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
indicele elementului
d
o
m
e
n
i
u
l

i
n

c
a
r
e

v
a
r
i
a
b
i
l
a

a
l
e
a
t
o
a
r
e

i
a

v
a
l
o
r
i
media
Figura 2.5: Reprezentarea unui vector de realiz ari particulare ale unei vari-
abile aleatoare distribuita uniform n [0, 1].
Gracul obt inut este similar cu cel din gura 2.5. Relu ari ale liniei de
cod vor duce la valori diferite. O examinare a unui asemenea grac
poate furniza diferite informat ii despre parametri statistici ai variabilei
aleatoare:
gama valorilor de pe ordonat a (axa y) precizeaz a domeniul n care
variabila aleatoare ia valori. Valorile de pe abscis a nu poart a nici
o informat ie util a;
modul n care sunt r asp andite valorile pe n alt ime poate sugera
tipul de distribut ie;
indca distribut ia original a este simetric a fat a de centru, valoarea
central a de pe ordonat a este chiar media variabilei aleatoare;
27
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
lat imea intervalului n care sunt cele mai multe valori, raportat a
la medie, sugereaz a valoarea dispersiei.
Practic, media aritmetic a (ecuat ia 2.27) a valorilor este un estimat
4
al mediei statistice. Abaterea p atratic a medie denumit a si deviat ie
standard (dat a de ecuat ia 2.28) este aproape de variant a statistic a
().

x
=
1
N
N

k=1
x(k) (2.27)

x
=
1
N 1
N

k=1
(x(k)
x
)
2
(2.28)
Deci putem calcula:
m x = mean(x) %media
std x = std(x) %variant a
2. Reprezentarea unei variabile aleatoare gaussiene
5
. O realizare a unei
variabile aleatoare distribuite gaussian de medie 0 si dispersie 1 se
obt ine cu funct ia randn. Pentru obt inerea unei matrice se foloseste
randn(nLinii,nColoane). De exemplu linia:
x = randn(1, 50);
genereaz a un vector linie cu 50 de realiz ari particulare ale unei vari-
abile gaussiene.
S a se genereze o populat ie gaussian a de dimensiune 100. S a se reprez-
inte grac. S a se determine media si dispersia at at pe grac c at si prin
calcule. Prin ce difer a mpr astierea acestui tip de variabil a fat a de cel
obt inut n cazul unei variabile aleatoare uniforme.
Se stie c a pentru o variabil a aleatoare gaussian a aproximativ 67 %
dintre valori sunt r asp andite n intervalul [ , + ], aproximativ
95 % dintre valori sunt n intervalul [ 2, +2] si aproximativ 99
% dintre valori n intervalul [ 3, + 3].
3. Funct ii de o variabil a aleatoare. Acest rezultat a fost deja folosit pen-
tru deducerea formulei principiului invers arii funct iei de repartit ie.

In
4
O valoare statistica se aproximeaza printr-un numar. Acest numar este un estimat
al momentului statistic considerat. Se poate discuta de estimatori corect i, deplasat i, etc.
Pentru mai multe detalii vezi [12].
5
Datorita faptului ca o variabila aleatoare gaussiana nu are forma explicita pentru
funct ia de repartit ie, obt inerea de valori distribuite gaussian direct din realizari particulare
ale unei uniforme este mai dicila. Este necesar un pas preliminar, n care se vor obt ine
valori distribuite Rayleigh si valori distribuite uniform n intervalul [0, ]. Acestora li se
aplica o funct ie de doua variabile aleatoare. Rezultatul acestei funct ii constan doua valori
care respecta o statistica de tip gaussian. Din acest motiv vom folosi generatorul de valori
gaussiene disponibil n Matlab.
28
2.4. Desf asurarea lucr arii
plus, de mare utilitate este teorema de medie:
dac a = g(), g : D
1
D
2
atunci =
_
+

g(x)w

(x)dx
(2.29)
Aceast a teorema este valabil a indiferent de tipul funct iei g. Pentru
funct ii liniare, cu g(x) = ax + b, ecuat ia 2.29 se simplic a:
= a + b (2.30)
Pentru astfel de funct ii se obt ine un rezultat similar si pentru dispersie:

= a
2

(2.31)
Aplicarea unei funct ii liniare unei variabile aleatoare presupune scalarea
valorilor posibile cu a si translat ia lor cu b.
S a consideram urm atorul exemplu: e X o variabil a aleatoare dis-
tribuit a uniform n [0,1]; se vor considera 100 de realiz ari particulare
ale acesteia. Se vor aproxima densitatea de probabilitate si funct ia de
repartit ie a variabilei aleatoare (pentru aceasta se va reprezenta his-
tograma si histograma cumulativ a a datelor). Se vor calcula media
si dispersia. Se va construi variabila Y = aX + b. Se vor determina
histograma si histograma cumulativ a precum si media si dispersia vari-
abilei aleatoare astfel obt inute. Veric a acestea rezultatele teoretice?
Rezolvare:
X = rand(1, 100); %cele 100 de realiz ari particulare ale lui
X
figure(1); plot(X,

.

);
m X = mean(X) %media lui X
s X = std(X) %dispersia lui X
[h X, absX] = hist(X, 20); %histograma nenormat a
figure(2); bar(absX, h X/100); %densitatea de probabilitate
H X = cumsum(h X/100); %histograma cumulativ a
figure(3); plot(absX, H X);
a = 1; b = 2;
Y = a*X+b;
figure(1); hold on; plot(Y,

.k

);
m Y = mean(Y) %media lui Y
s Y = std(Y) %dispersia lui Y
[h Y, absY] = hist(Y, 20); %histograma nenormat a
figure(2); hold on; bar(absY, h Y/100,

k

);
H Y = cumsum(h Y/100); %histograma cumulativ a
figure(3); hold on; plot(absY, H Y,

k

); hold off
Un posibil rezultat grac este prezentat n gura 2.6
4. Variabila aleatoare de tip exponent ial. Se va genera un sir de realiz ari
particulare ale unei variabile aleatoare distribuite dup a o lege de tip
29
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
0 50 100
0
0.5
1
1.5
2
2.5
3
0 1 2 3
0
0.02
0.04
0.06
0.08
0.1
0.12
0 1 2 3
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
Figura 2.6: Funct ie liniar a aplicat a unei variabile aleatoare.
exponent ial (se va pleca de la un sir de reprezent ari ale unei variabile
aleatoare uniforme n [0, 1] si apoi se va aplica funct ia dat a de ecuat ia
2.22). Aceste valori se vor reprezenta grac. Se vor calcula media si
dispersia, at at teoretic c at si practic. Se va reprezenta histograma si,
respectiv, histograma cumulativ a.
Rezolvare: Media unei variabile aleatoare distribuit a exponent ial
este:
=
_
+
0
xexp(x)dx =
= xexp(x)

+
0
+
_
+
0
exp(x)dx =
= 0 0
1

exp(x)

+
0
=
1

Media p atratica este:

2
=
_
+
0
x
2
exp(x)dx =
= x
2
exp(x)

+
0
+
_
+
0
2xexp(x)dx =
2

2
Ceea ce duce la o valoare a variant ei:

=
2

2
=
1

2
Pentru implementarea codului necesar studierii unei populat ii exponent iale
s-ar putea tasta:
X = rand(1, 100); %cele 100 de realiz ari particulare ale lui
X
lambda = 2; %parametrul exponent ialei
Y = (-1/lambda).*log(1-X); %relatia 2.22
figure(1); plot(Y,

);
m Y = mean(Y); %media
30
2.4. Desf asurarea lucr arii
s Y = std(Y); %dispersia
[h Y, absY] = hist(Y, 20); %histograma nenormat a
figure(2); bar(absY, h Y/100,

k

);
H Y = cumsum(h Y/100);
figure(3); plot(absY, H Y,

k

);
5. Variabila aleatoare de tip Rayleigh. Se va genera un sir de realiz ari
particulare ale unei variabile aleatoare distribuite dup a o lege de tip
Rayleigh pornindu-se de la un sir de realiz ari ale unei uniforme n [0,
1] (vezi ecuat ia 2.23). Aceste valori se vor reprezenta grac. Se va
calcula media at at teoretic c at si practic. Se va reprezenta histograma
si respectiv histograma cumulativ a pentru variabila aleatoare astfel
obt inut a.
6. S a se determine experimental valoarea optim a a num arului de inter-
vale pe care se va aproxima densitatea de probabilitate (num arul de
dreptunghiuri ale histogramei) n funct ie de num arul realiz arilor par-
ticulare ale variabilei aleatoare originale. Se va experimenta cu o vari-
abil a aleatoare de tip gaussian de medie 1 si dispersie 2. Se va porni
cu o populat ie de 100 de indivizi.
31
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
2.5 Exercit ii si teme propuse
1. Ce este o variabil a aleatoare?
2. Enunt ati si demonstrat i trei propriet at i ale unei funct ii de repartit ie.
3. Enunt ati si demonstrat i trei propriet at i ale unei densit at i de probabi-
litate.
4. Care din gracele prezentate n gura 2.7 pot reprezenta gracul unei
funct ii de repartit ie?
10 5 0 5 10
0.5
0
0.5
1
1.5
(a)
10 5 0 5 10
0.5
0
0.5
1
1.5
(b)
10 5 0 5 10
0.5
0
0.5
1
1.5
(c)
10 5 0 5 10
0
0.2
0.4
0.6
0.8
1
Figura 2.7: Exercit iul 4.
5. Care din gracele prezentate n gura 2.8 pot reprezenta gracul unei
densit at i de probabilitate?
10 5 0 5 10
0.2
0.1
0
0.1
0.2
0.3
0.4
0.5
(a)
10 5 0 5 10
0.5
0
0.5
1
1.5
(b)
10 5 0 5 10
0.2
0.1
0
0.1
0.2
0.3
0.4
0.5
(c)
10 5 0 5 10
0.2
0.1
0
0.1
0.2
0.3
0.4
0.5
(d)
Figura 2.8: Exercit iul 5.
32
2.5. Exercit ii si teme propuse
6. Calculat i inversa funct iei de repartit ie pentru o variabil a distribuit a
uniform n intervalul [a, b] (utilizat a n exemplul 1).
7. Ce reprezint a histograma?
8. Ce reprezint a histograma cumulativ a?
9. Cum se aproximeaz a media unei variabile aleatoare? Dar dispersia?
10. S a se calculeze momentele centrate de ordin 3 si 4 pentru o vari-
abil a aleatoare distribuita gaussian. Aceeasi cerint a pentru o variabil a
aleatoare distribuita exponent ial, respectiv Rayleigh.
11. Sunt disponibile 2 seturi de valori. Un set reprezint a realiz ari experi-
mentale ale unei variabile aleatoare uniforme n [1, 1], iar cel alalt al
unei variabile aleatoare de tip exponent ial de parametru = 1. Cum
se poate decide ce set din ce variabil a provine? Exemplicat i prin
calcule si grace.
12. Fiind dat un set de valori experimentale r ap andite n intervalul [1, 1]
s a se calculeze probabilitatea ca variabila aleatoare de provenient a s a
e mai mare dec at 0. Se poate decide numai pe baza acestei valori
numerice de ce tip este variabila aleatoare?
33
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE
34
Lucrarea 3
Perechi de variabile aleatoare
Variabilele aleatoare se pot constitui n mult imi (sau vectori). Vom prezenta
n aceast a lucrare not iunea de pereche de variabile aleatoare, n mod similar
put andu-se deni vectori cu oric ate astfel de variabile.
3.1 Caracterizarea statistica de ordinul II
Doua variabile aleatoare se pot grupa ntr-o pereche de variabile aleatoare.
O realizare particular a a unei astfel de perechi este un vector de dou a nu-
mere. Cele dou a variabile aleatoare ce formeaz a perechea se pot studia at at
separat c at si mpreuna. Studiul individual al ec arei variabile aleatoare
din pereche foloseste statisticile de ordin I descrise n lucrarea precedent a.
Studiul perechii de variabile aleatoare ca un tot face apel la statisticile de
ordinul II care vor prezentate n cele ce urmeaz a.
Fie perechea de variabile aleatoare (, ). Aceasta este caracterizat a de:
Funct ia de repartit ie de ordinul II:
F

(x, y) = P (( x), ( y)) (3.1)


Cele dou a evenimente discutate, ( x) si ( y), se petrec simul-
tan. Printre propriet at ile funct iei de repartit ie a perechii de variabile
aleatoare mai importante sunt:
Valorile la extremit at ile domeniului:
F

(, y) = F

(x, ) = 0 (3.2)
F

(+, +) = 1 (3.3)
Funct iile de repartit ie marginale se denesc ca ind:
F

(x) = P( x) = P (( x), ( +)) = F

(x, +)
(3.4)
F

(y) = P( y) = F

(+, y) (3.5)
35
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE
Probabilitatea ca perechea de variabile aleatoare s a ia valori ntr-
un domeniu D
1
= (x
1
, x
2
] (y
1
, y
2
] este:
P (( (x
1
, x
2
]), ( (y
1
, y
2
])) =
=F

(x
2
, y
2
) + F

(x
1
, y
1
) F

(x
1
, y
2
) F

(x
2
, y
1
)
(3.6)
Densitatea de probabilitate de ordinul II se deneste ca ind:
w

(x, y) =
d
2
F

(x, y)
dxdy
(3.7)
Principalele propriet at i sunt:
Condit ia de normare:

(x, y)dxdy = 1 (3.8)


Densit at ile marginale:

(x, y)dy = w

(x) (3.9)

(x, y)dx = w

(y) (3.10)
Probabilitatea ca perechea de variabile aleatoare s a ia valori ntr-
un domeniu D
1
= (x
1
, x
2
] (y
1
, y
2
] este:
P (( (x
1
, x
2
]), ( (y
1
, y
2
])) =
_
x
2
x
1
_
y
2
y
1
w

(x, y)dydx (3.11)


Desi scris a pentru un domeniu dreptunghiular, relat ia de mai sus
este valabil a pentru orice form a a domeniului D
1
:
P ((, ) D
1
) =
_ _
D
1
w

(x, y)dxdy (3.12)


Doua variabile aleatoare se numesc independente dac a produsul den-
sit at ilor marginale este egal cu densitatea de probabilitate de ordinul
II:
, independente w

(x, y) = w

(x) w

(y), x, y (3.13)
Independent a a dou a variabile aleatoare permite deducerea statisti-
cilor de ordinul II din m arimile statistice de ordinul I. Asadar studiul
individual al variabilelor aleatoare ce formeaz a perechea poate su-
cient pentru a caracteriza complet ansamblul dac a si numai dac a cele
dou a variabile sunt independente. Dac a cele dou a variabile nu sunt
independente atunci perechea nu este complet caracterizat a prin de-
scrierea statistic a individual a.
36
3.1. Caracterizarea statistic a de ordinul II
Pe baza densit at ii de probabilitate de ordinul II se pot deni mo-
mentele statistice ale perechii de variabile aleatoare. Astfel:
Momentul necentrat de ordin (p, q) este denit ca ind:
m
(p,q)

x
p
y
q
w

(x, y)dxdy (3.14)


Momentul centrat de ordin (p, q) este :
M
(p,q)

(x )
p
(y )
q
w

(x, y)dxdy (3.15)


Larg utilizate sunt:
Corelat ia - momentul necentrat de ordin (1,1):
R

= m
(1,1)

= =

xyw

(x, y)dxdy (3.16)


Covariat ia - momentul centrat de ordin (1,1):
K

= M
(1,1)

= ( )( ) =

(x)(y)w

(x, y)dxdy
(3.17)
Se deneste coecientul de corelat ie a dou a variabile aleatoare ca
ind:

=
K

(3.18)
Se poate ar ata c a:
K

= R

= (3.19)
Doua variabile aleatoare se numesc decorelate dac a covariat ia lor este
nula. Dac a independent a este bazat a pe o relat ie ntre densit at ile de
probabilitate, decorelarea este dat a de o relat ie similar a dar bazat a pe
medii, deci mai put in restrictiv a.
Doua variabile aleatoare sunt dependente dac a exist a o funct ie care
face leg atura ntre ele. Cu c at aceasta funct ie se apropie mai mult de
o funct ie liniara cu at at variabilele sunt mai puternic corelate. Dac a
funct ia este chiar liniara atunci cele dou a variabile aleatoare sunt per-
fect corelate. Gradul de corelare al celor dou a variabile aleatoare este
dat de modulul coecientului de corelat ie. Cu c at acesta se apropie de
1 cu at at cele dou a variabile aleatoare sunt mai corelate. La limit a,
daca |

| = 1 cele dou a variabile aleatoare sunt perfect corelate.


Leg atura ntre independent a si decorelare este:
37
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE
dou a variabile aleatoare independente sunt decorelate;
dac a dou a variabile aleatoare sunt decorelate nu se poate spune
nimic despre independent a lor.
Leg atura ntre dependent a si corelare este:
dac a dou a variabile aleatoare sunt dependente nu se poate spune
nimic despre corelat ia dintre ele;
dac a dou a variabile aleatoare sunt corelate atunci sunt si de-
pendente.
Aceste reguli au o except ie: n cazul variabilelor aleatoare gaussiene,
independent a perechii de variabile este echivalent a cu decorelarea lor.
Asa cum densitatea de probabilitate de ordinul I era aproximat a prin
histogram a, se poate construi si o aproximare a densit at ii de probabilitate
de ordinul II. Procedeul este similar doar c a intervalele denite pe un suport
liniar se nlocuiesc cu intervale dreptunghiulare (denite pe un suport plan).
Rezultatul este sub forma unei matrice. O particularizare a aceastei matrice
este denumit a matrice de coocurent a care este larg folosit a n analiza de
imagini pentru caracterizarea texturilor (vezi[11]).
3.2 Dreapta de regresie
Conform [3], unul din sensurile cuv antului regresie este de ntoarcere de
la o form a superioar a de dezvoltare la una inferioar a. In matematic a sau
tehnic a regresia este o metod a de nlocuire a unei mult imi de puncte cu
o form a geometric a parametrizabil a. Mult imea, complicat de descris, este
substituit a printr-o form a caracterizat a de c ateva valori (ale parametrilor).
Aceast a form a poate o dreapt a, o curb a (dat a printr-un polinom sau o
funct ie oarecare), un cerc etc.
Cum se procedeaz a pentru obt inerea formei c autate? Forma este denit a
de un set de parametri
1
. Se caut a acel set de valori ale parametrilor care
minimizeaz a suma distant elor de la ecare punct al mult imii originale la
forma c autat a
2
.
Dreapta de regresie a realiz arilor particulare ale unei perechi de variabile
aleatoare permite studiul corelat iei lor. Dup a cum am precizat n sect iunea
anterioar a, corelat ia este o dependent a liniar a. Reprezentarea ntr-un plan
a realiz arilor particulare a dou a variabile aleatoare puternic corelate este un
nor de puncte a c arui form a se apropie de o dreapt a. Dreapta care aprox-
imeaz a cel mai bine forma descris a de mult imea de puncte este dreapta de
regresie.
1
De pilda, un cerc este denit de trei parametri: coordonatele centrului (abscisa si
ordonata) si raza. O curba polinomiala provenind dintr-o funct ie de gradul 2 are trei
parametri: coecient ii de gradul 2 ,1 si respectiv 0.
2
In materialul de fat a se discuta despre un caz particular de regresie. O prezentare
generala presupune minimizarea unei erori oarecare, nu neaparat a sumei distant elor.
Modelul prezentat aici mai este cunoscut sub numele de regresie n sensul minimizarii
erorii patratice medii.
38
3.2. Dreapta de regresie
Problema noastr a const a n a determina panta (a) si oset-ul (b) dreptei
care minimizeaz a distant a de la ea la un set de puncte dat. In cazul nos-
tru, setul de puncte este format din realiz arile particulare ale unei perechi
de variabile aleatoare. Aceast a problem a se poate rezolva prin fort a brut a
3
sau direct prin solut ie analitic a. Mai exact mult imea punctelor este (x
i
, y
i
),
cu i = 1, 2, . . . , N, unde x
i
sunt cele N realiz ari particulare ale variabilei
aleatoare , iar y
i
ale variabilei . Pentru a obt ine solut ia analitic a se cal-
culeaz a eroarea p atratica medie care, apoi, se minimizeaz a n funct ie de cei
doi parametri (vezi si [14]). Eroarea p atratic a medie obt inut a prin aproxi-
marea norului de puncte cu o dreapt a este:
=
1
N
N

i=1
(y
i
ax
i
b)
2
=
1
N
N

i=1
(y
2
i
+a
2
x
2
i
+b
2
2ax
i
y
i
2by
i
+2abx
i
) (3.20)
Dac a se egaleaz a cele dou a derivate part iale ale erorii cu zero, se obt ine:

a
=
2a
N
N

i=1
x
2
i

2
N
N

i=1
x
i
y
i
+
2b
N
N

i=1
x
i
= 0
si respectiv

b
=
1
N
N

i=1
2b
2
N
N

i=1
y
i
+
2a
N
N

i=1
x
i
= 0
Dac a notam:
S
X
=
1
N
N

i=1
x
i
S
Y
=
1
N
N

i=1
y
i
S
XX
=
1
N
N

i=1
x
2
i
S
Y Y
=
1
N
N

i=1
y
2
i
S
XY
=
1
N
N

i=1
x
i
y
i
(3.21)
sistemul dat de ecuat iile part iale devine:
_
aS
XX
+ bS
X
= S
XY
aS
X
+ b = S
Y
Rezolvarea acestui sistem permite aare parametrilor dreptei de regresie:
a =
S
XY
S
X
S
Y
S
XX
S
X
S
X
b = S
Y
aS
X
(3.22)
O consecint a a denirii n acest mod a dreptei de regresie este faptul
c a ea va trece prin centrul norului de puncte. Dac a se vor considera dou a
variabile aleatoare de medie 0, atunci norul de puncte va centrat n jurul
originii si oset-ul dreptei de regresie va nul. Tot ce va trebui aat este
3
Se ncearca toate dreptele posibile si se verica potrivirea lor peste setul de date.
39
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE
panta dreptei de regresie minim a.
O analiz a rapid a a valorilor calculate n relat iile 3.21 relev a semnicat ia
lor statistic a: S
X
si S
Y
sunt mediile celor dou a variabile aleatoare, S
XX
si
S
Y Y
mediile p atratice, iar S
XY
corelat ia lor. In acest sens se poate rescrie
panta dreptei n funct ie de m arimile statistice (vezi [1]):
a =
K

Reamintim c a gradul de corelat ie a dou a variabile aleatore este dat de


coecientul de corelat ie:

=
K

Se demonstreaz a c a coecientul de corelat ie are modulul subunitar: |

|
1. Un coecient de corelat ie de modul 1 nseamn a o corelat ie perfect a. Care
este leg atura sa cu dreapta de regresie? Gradul de corelat ie este dat de
eroarea de aproximare a norului de puncte cu o dreapt a
4
. Acesta se obt ine
nlocuind n relat ia 3.20 valorile calculate pentru cei doi parametri:

min
=
2

_
1
_
K

_
2
_
=
2

(1
2

)
Practic, n codit iile n care este disponibil un set de perechi de puncte
aarea dreptei de regresie ncepe prin a calcula sumele date de relat ia 3.21.
Cu ajutorul lor se aproximeaz a cei doi parametri ai dreptei. In ultimul pas
se estimeaz a eroarea de aproximare a norului cu o dreapt a.
4
Tipic, succesiunea operat iilor presupune ntai calculul parametrilor dreptei de regresie
si apoi denirea coecientului de corelat ie ca masura a erorii de aproximare.
40
3.3. Desf asurarea lucr arii
3.3 Desfasurarea lucrarii
1. Studiul densit at ii de probabilitate de ordinul II. Se va reprezenta grac
densitatea de probabilitate de ordinul II a unei perechi de variabile
aleatoare gaussiene. Aceasta este data de relat ia:
w

(x, y) =
1
2

_
1
2

exp
_

1
2(1
2

)
_
(x

)
2

(x

)(y

+
(y

)
2

__
Se va reprezenta densitatea de probabilitate de ordinul II pentru di-
verse valori ale celor dou a medii, dispersii si coecient de corelat ie. Se
vor calcula si reprezenta grac densitat ile marginale.
Rezolvare. Codul necesar este:
x = -50:50;
y = -50:50;
mx = 0; my = 0;
sx = 5; sy = 6;
rxy = 0.2;
const1 = 1/(2*pi*sx*sy*sqrt(1-rxy^2));
const2 = 1/(2*(1-rxy^2));
sx2 = sx^2 ;
sy2 = sy^2;
rsxsy = 2*rxy/(sx*sy);
for i = 1:length(x)
for j = 1:length(y)
% calcul am densitatea de prob de ord II
w(i,j) = const1*exp(-const2*...
((x(i)-mx)^2/sx2-rsxsy*(x(i)-mx)*...
(y(j)-my)+(y(j)-my)^2/sy2));
end
end
% calcul am densit at ile marginale
wx = sum(w

);
wy = sum(w);
% afi s am graficul densit at ii de probabilitate de ordinul II
figure(1); mesh(x, y, w);
% afi s am graficele densit at ilor marginale
figure(2);
subplot(1, 2, 1); plot(x, wx);
subplot(1, 2, 2); plot(y, wy);
Un posibil rezultat poate v azut n gura 3.1.
2. Se vor genera dou a variabile aleatoare gaussiene de medii si disper-
sii xate. Se presupune c a cele dou a variabile sunt independente.
41
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE
50
0
50
50
0
50
0
1
2
3
4
5
6
x 10
3
50 0 50
0
0.01
0.02
0.03
0.04
0.05
0.06
0.07
50 0 50
0
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
Figura 3.1: Densitatea de probabilitate de ordinul II precum si densit at ile
marginale ale unei perechi de variabile aleatoare gaussiene.
Aceast a ipotez a este ndeplinit a dac a variabilele nu depind una de
alta sau, altfel spus, sunt generate separat. S a se reprezinte grac val-
orile densit at ii de probabilitate de ordin II (aproxim arii densit at ii de
probabilitate de ordinul II). S a se compare cu rezultatul de la punctul
precedent.
Rezolvare: Codul necesar poate :
x = randn(1,400);%400 de realiz ari particulare ale unei gaussiene
%de medie 0 si dispersie 1
y = -2+2*randn(1,400);%medie -2 si dispesie 2
%vom calcula densitatea de prob de ordin II ^n 10x10 puncte
mx = min(x); Mx = max(x);
my = min(y); My = max(y);
absx = mx:(Mx-mx)/10:Mx;
absy = my:(My-my)/10:My;
for i = 1:10
for j = 1:10
M(i,j) = sum( (x<absx(i+1)&x>=absx(i)) & ...
(y<absy(j+1)&y>=absy(j)));
end;
end;
figure;surf(absx(1:end-1), absy(1:end-1), M);
Un model de densitate de probabilitate de ordin II poate vizualizat
n gura 3.2.
3. Se vor genera c ate 200 de realiz ari a dou a variabile aleatoare uniforme
42
3.3. Desf asurarea lucr arii
4
3
2
1
0
1
2
3
8
6
4
2
0
2
4
0
5
10
15
20
25
30
35
Figura 3.2: Aproximarea densit at ii de probabilitate de ordinul II a unei
perechi de variabile aleatoare.
x
i
, y
i
(i = 1, 2, . . . , 200). Se vor reprezenta cele 200 de puncte n planul
xOy. Se va trasa dreapta de regresie si se va calcula eroarea de aprox-
imare. Se vor studia 2 cazuri: variabilele aleatoare sunt independente
(se vor genera individual) si respectiv corelate (se vor genera realiz arile
primei variabile, x
i
, iar realiz arile celei de a doua se vor obt ine printr-o
transformare liniara: y
i
= a x
i
+ b).
Rezolvare. Codul Matlab este:
N = 200;
x = rand(1, N);
y = rand(1, N);
plot(x, y,

.

);
Sx = sum(x)/N;
Sy = sum(y)/N;
Sxx = sum(x.*x)/N;
Syy = sum(y.*y)/N;
Sxy = sum(x.*y)/N;
%panta dreptei de regresie
a = (Sxy-Sx*Sy)/(Sxx-Sx*Sx);
b = Sy-a*Sx;
%calcul am punctele dreptei
xd = sort(x); yd = a*xd+b;
%trasam dreapta de regresie
hold on; plot(xd, yd,

r

), hold off;
%eroarea de aproximare
corcoef = (Sxy-Sx*Sy) / sqrt((Sxx-Sx*Sx)*(Syy-Sy*Sy));
e = (Syy-Sy*Sy)*(1-corcoef^2);
fprintf(

coeficientul de corelatie este=%d

, corcoef);
fprintf(

erorea este= %d

, e);
Un posibil rezultat, pentru cazul n care a doua variabil a este obt inut a
43
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE
printr-o funct ie liniar a aplicat a variabilei aleatoare x, la care se adauga
o eroare (y = ax + , unde este o variabil a aleatoare uniform a de
dispersie mic a) poate v azut a n gura 3.3.
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0
1
2
3
4
5
6
7
8
9
Figura 3.3: Dreapta de regresie pentru o pereche de variabile aleatoare put-
ernic corelate.
Tema: Pentru problema dreptei de regresie, sa se ae panta dreptei prin
baleiere dupa valorile posibile (m=logspace(-3,3,100);, n=min(y):max(y);).
Se considera c a dreapta trece prin centrul norului de puncte. Care sunt
coordonatele centrului norului de puncte? Pentru acest caz ce inuent a are
num arul de realizari particulare? Experimentat i n acest sens.
4. Se vor ncarca matricele A
1
, . . . , A
6
stocate n sierul Regresie.mat
(vezi gura 3.4). Fiecare matrice are dou a linii si un num ar N de
coloane. O coloan a reprezint a cele dou a coordonate ale unui punct
din spat iul (x
i
, y
i
)
T
. Stiind c a punctele sunt provenite dintr-o pereche
de variabile aleatoare (, ) s a se determine n ecare caz gradul de
corelat ie ntre cele dou a variabile aleatoare.
Incarcarea unui sier de tip .mat se face cu comanda load. Pentru
salvarea unei variabile sau set de variabile pe disc se foloseste comanda
save.
5. S a se studieze modelul de regresie p atratic a (aproximarea unui nor de
puncte printr-o hiperbol a); aproximarea este dat a de relat ia:
= a
2
+ b + c
6. S a se studieze modelul de regresien care realiz arile particulare ale unei
perechi de variabile aleatoare este aproximat printr-un cerc. Ream-
intim c a ecuat ia unui cerc cu centrul n punctul (a, b) este:
( a)
2
+ ( b)
2
c
2
= 0
44
3.4. Exercit ii si teme propuse
2 1 0 1 2
1
0.5
0
0.5
1
5 0 5
2
4
6
8
5 0 5
4
6
8
2 0 2
0
1
2
3
4 2 0 2 4
3
2
1
0
4 2 0 2 4
2
1
0
1
2
Figura 3.4: Date mai puternic sau mai slab corelate.
3.4 Exercit ii si teme propuse
1. Cand se poate caracteriza perechea de variabile aleatoare caracteriz and
numai variabilele aleatoare individual? Dar dac a cele dou a variabile
aleatoare sunt gaussiene?
2. Ce reprezint a
_ _
D
1
w

(x, y)dxdy?
3. Cat de bun a este (de cine depinde) aproximarea unei densit at i de pro-
babilitate de ordinul II prin matricea de coocurent a?
4. Dac a variabilele aleatoare si sunt gaussiene atunci densitatea de
probabilitate de ordinul II, w

(x, y) are forma unui clopot (mai mult


sau mai put in turtit). Se poate construi variabila condit ionat a de
tipul (|). Pentru ecare valoare posibil a a lui exist a o densitate de
probabilitate, de variabil a x a lui , care este la r andul ei gaussian a.
Se poate nt ampla ca pentru valori diferite ale lui s a se g aseasc a
densit at i gaussiene de medii respectiv dispersii diferite. Desenat i un
exemplu de densitate de probabilitate de tipul w
|
(x, y).
45
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE
46
Lucrarea 4
Transformata Fourier
In acest capitol se va prezenta o scurt a introducere n analiza spectral a a
semnalelor. Aceast a sect iune a domeniului analizei si prelucr arii semnalelor
are la baz a transformata Fourier.
In general, prin transformare se ntelege o clas a de funct ii care, primind
la intrare un semnal (reprezentat ntr-un spat iu de baz a - timpul sau alt
spat iu topologic), ofera la iesire reprezentarea acestuia ntr-un spat iu trans-
format (denumit de multe ori domeniu spectral
1
). Transformata Fourier
este o transfomare integral a, n sensul c a ecare valoare rezultat a depinde
de toate valorile de la intrare.
Transformarea din domeniul timp ntr-un asemenea domeniu spectral
este benec a datorit a propriet at ilor existente n spat iul rezultant: are inter-
pretabilitate direct a a valorilor si apare fenomenul de concentrarea energiei
ntr-un procent mult mai redus de valori.
Desf asurarea lucr arii vancepe prin a prezenta c ateva propriet at i de baz a
ale transformatei Fourier, pentru ca, n partea a doua, s a discut am aspecte
specice ale tranform arii discrete si s ancheiem cu reprezentarean domeniul
spectral a c atorva funct ii uzuale.
4.1 Transformata Fourier continua
Transformata Fourier, continu a
2
, a unui semnal x(t) este denit a ca ind:
X() = F {x(t)} () =

x(t)e
jt
dt (4.1)
1
Termenul spectru are la origini un cuvant din engleza veche ce denumea o fantoma,
aparit ie sau, mai general, ceva ce nu are o forma denita si/sau constanta. Mai tarziu a
fost introdus n optica si specica domeniul culorilor vizibile. Ulterior s-a facut legatura
ntre vizibilitatea culorii si lungimea ei de unda (care este proport ionala cu frecvent a).

In
zilele noastre, prin extindere, toate domeniile ce au ca variabila frecvent a sau o derivata
a acesteia se numesc spectre.
2
Not iunea de continua se refera la faptul ca atat semnalul de baza cat si cel rezultat
n urma transformarii sunt denite pe un suport continuu.
47
LUCRAREA 4. TRANSFORMATA FOURIER
Transformarea invers a este:
x(t) = F

{X()} (t) =
1
2

X()e
jt
d (4.2)
O condit ie de existent a a transformatei Fourier a unei funct ii este ca
funct ia s a e de modul integrabil a
3
.
In cele ce urmeaz a, vom considera c a x(t) este semnalul de baz a, iar
X() transformata lui Fourier. Printre propriet at ile transformatei Fourier,
de important a practic a sunt:
Liniaritatea:
F {ax(t) + by(t)} () = aF {x(t)} () + bF {y(t)} ()
= aX() + bY () , unde a, b C
(4.3)
Deplasarea n timp:
F {x(t + t
0
)} () = e
jt
0
F {x(t)} () (4.4)
Deplasarea n frecvent a:
F
_
x(t)e
j
0
t
_
() = X(
0
) (4.5)
Simetria:
F {X(t)} () = 2x() (4.6)
Derivarea n timp:
F
_
x
(n)
(t)
_
() = (j)
n
X() (4.7)
Convolut ia ntre dou a semnale este denit a ca ind:
(x y)(t) =

x(t )y()d (4.8)


Transformata Fourier a convolut iei a dou a semnale este:
F {(x y)(t)} () = X()Y () (4.9)
Conservarea energiei. Energia unui semnal este:
E
x
=

x
2
(t)dt (4.10)
Ea se poate calcula n domeniul spectral ca ind :
E
x
=
1
2

|X()|
2
d (4.11)
48
4.2. Transformata Fourier discret a
Figura 4.1: Trecerea unui semnal printr-un sistem caracterizat de funct ia
pondere h(t).
De mare important a practic a este proprietatea care arat a c a operat iei de
convolut ie din domeniul de baz ai corespunde produsul n domeniul spectral
(relat ia 4.8). Orice trecere a unui semnal printr-un sistem liniar invariant n
timp se modeleaz a matematic ca o convolut ie ntre semnal si funct ia pon-
dere a sistemului, h(t) (vezi gura 4.1). Referitor la sisteme (de multe ori
denumite si ltre), sunt de interes dou a aspecte: caracterizarea unuia deja
existent sau proiectarea unuia care s a aib a propriet at i impuse. Frecvent,
aceste operat ii sunt mai usor de realizat n domeniul spectral dec at n dome-
niul de baz a.
Trebuie precizat c a componenta spectral a pe frecvent a 0 este denumit a
component a continu a.
O explicat ie intuitiva a transfomatei Fourier se obt ine daca se particularizeaza sem-
nalul x(t) printr-o cosinusoida : x(t) = cos(
0
t). Daca vom calcula transformata Fourier
a semnalului vom obt ine X() =
1
2
(
0
) +
1
2
( +
0
).
Semnalul x(t) poate reprezentat n spat iul de baza (timpul, de variabila t) sau
ntr-un spat iu al frecvent elor (de variabila ). Acest semnal, cos(
0
t) are o valori nenule
pentru o singura frecvent a,
0
. Daca inspectam transformata lui Fourier vom vedea ca
exista valori nenule numai n
0
, respectiv n
0
(mai exact acolo unde sunt denite cele
doua funct ii ).
Simplist, not iunea de frecvent a poate vazuta ca o viteza de variat ie. O sinusoida de
frecvent a mare va oscila repede (va avea multe variat ii bruste n unitatea de timp) - vezi
gura 4.2 n timp ce una de frecvent a joasa va oscila lent.
4.2 Transformata Fourier discreta
In mod evident, transformata Fourier continu a nu se poate implementa intr-
un sistem digital (cum este si calculatorul personal), care ofer a, prin natura
sa, un domeniu de denit ie discret.

In continuare vom deni transformata
Fourier discret a si vom enunt a c ateva propriet at i utile ale acesteia.
Se va considera o secvent a discret a x(n) de lungime N. Aceasta poate
obt inut a prin esantionarea semnalului continuu x(t) la momentele nT
e
(unde n = 0, . . . N 1 - vezi gura 4.3). T este perioada de esantionare, iar
f
e
=
1
T
si
e
= 2f
e
sunt frecvent a si respectiv pulsat ia de esantionare.
3
Aceasta condit ie este similara (atent ie, nu identica) cu a spune ca semnalul de baza
este de energie nita. Se poate deni transformata Fourier si pentru funct ii care nu
respecta aceste condit ii, dar n lucrarea de fat a nu ne vom referi la acestea.
49
LUCRAREA 4. TRANSFORMATA FOURIER
0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
cos(10t) cos(2t)
Figura 4.2: Doua cosinusoide. Funct ia reprezentat a cu linie punctat a este
de pulsat ie = 10 si are variat ii rapide. Spectrul ei va avea valori nenule
mai departe de origine dec at cosinusoida de pulsat ie = 2, reprezentat a cu
linie continu a.
0 5 10 15 20 25 30
2
1.5
1
0.5
0
0.5
1
1.5
2
Figura 4.3: Un semnal si secvent a rezultat a prin esantionarea lui.
Transfomata Fourier discret a a secvent ei x(n) este denit a ca ind:
X(k) = F
d
{x(n)} (k) =
N1

n=0
x(n)e

2k
N
n
,unde k = 0, . . . , N1 (4.12)
Transformata Fourier discret a invers a este:
x(n) = F
1
d
{X(k)} (n) =
N1

k=0
X(k)e
2n
N
k
,unde n = 0, . . . , N 1
(4.13)
Printre propriet at ile transformatei Fourier discrete se num ar a:
Spectrul este periodic de perioad a N. Aceast a proprietate este impor-
tant a dac a se doreste evaluarea spectrului de frecvent e ntr-un interval
mult mai larg dec at {0, . . . , N} (cum ar {, . . . , 0, . . . , N, . . . , +}).
X(k + N) = X(k) (4.14)
50
4.2. Transformata Fourier discret a
Dac a x(n) se obt ine prin esantionarea semnalului continuu x(t), atunci
transformata Fourier discret a a secvent ei x(n), X(k), reprezint a esantionarea
transformatei Fourier continue a semnalului x(t):
X() = F {x(t)} () si x(n) = x(nT)
X(k) = X(
k
), unde
k
= k
T
2N
(4.15)
Aceast a relat ie permite extinderea propriet at ilor transformatei Fourier
continue la cea discret a.
Transformata Fourier este o modalitate de a proiecta un semnal n planul com-
plex pe cercul unitate. Transformata Fourier discreta a unei secvent e de lungime
N are drept coecient i (e
j
2n
N
) radacinile complexe de ordinul N ale unitat ii (vezi
gura 4.4).
Prin similaritate cu funct iile trigonometrice, de care n mod evident transformata
Fourier este strans legata, ne putem imagina usor funct ionarea proprietat ii de pe-
riodicitate a secvent ei spectrale.
1 0.8 0.6 0.4 0.2 0 0.2 0.4 0.6 0.8 1
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
Figura 4.4: Transformata Fourier continu a este proiectat a pe cercul uni-
tate. Transformata Fourier discret a este calculat a n punctele descrise de
rad acinile de ordinul N (aici N = 20) ale unit at ii. Valorile n care este
calculat a o secvent a spectral a de lungime 20 sunt marcate.
Valorile spectrului sunt complex conjugate fat a de componenta cen-
tral a. O conse-cint a imediat a este c a numai
_
N
2
_
valori sunt necesare
n vederea memorarii, restul ind redundante.
Transformata Fourier discreta este evaluata, init ial, n intervalul [0, 2]. Pentru
a obt ine componenta continua n centrul secvent ei spectrale rezultate este necesara
o translat ie astfel ncat domeniul n care sa se calculeze sa e [, ].
In cazul n care semnalul original este continuu si a fost esantionat cu f
e
, atunci
spectrul avand componenta continua n centru cont ine frecvent e cuprinse n inter-
valul [
f
e
2
,
f
e
2
], adica
f
e
2
si respectiv
f
e
2
.
Transformata Fourier discret a transform a convolut ia circular a a dou a
semnale denite n domeniul timp, n produs n domeniul frecvent a.
51
LUCRAREA 4. TRANSFORMATA FOURIER
Pentru dou a secvent e oarecare (x
1
(n), n = 0, . . . N
1
1 si, respectiv,
x
2
(n), n = 0, . . . N
2
1) convolut ia discret a se deneste ca ind:
y(n) = (x
1
x
2
)(n) =
+

m=
x
1
(m)x
2
(nm), n = 0, . . . , (N
1
+N
2
1)
(4.16)
Aceast a relat ie presupune c a secvent ele sunt extinse n afara dome-
niului original (0, . . . , N) cu zero. Convolut ia este implementat a n
Matlab prin funct ia conv.
Se deneste convolut ia circular a a dou a secvent e de lungime egal a N
astfel:
y(n) = (x
1
x
2
)
c
(n) =
N

m=0
x
1
(m) (x
2
(n m))
c
, unde n = 0, . . . , N
(4.17)
In aceasta relat ie, notat ia (x
2
(n))
c
reprezint a secvent a x
2
(n) extins a
circular n afara domeniului (vezi si gura 4.5):
(x
2
(m))
c
= x
2
(n mod N) , unde n = (, +) (4.18)
x
0
x
1

x
N
x
N1
x
N2
x
0
x
1

x
N

x
N1
x
N2

Figura 4.5: Shiftarea circular a a unei secvent e
Pentru calculul n frecvent a a convolut iei circulare a dou a semnale
discrete sunt necesare c ateva etape:
Se consider a dou a secvent e: x
1
(n), n = 0, . . . N
1
1 si respectiv
x
2
(n), n = 0, . . . N
2
1, N
1
= N
2
.
Aceste secvent e se extind cu 0 p an a la lungimea N
1
+ N
2
1:
x
e1
(n) =
_
x
1
(n) , pentru n < N
1
0 , pentru n >= N
1
si respectiv:
x
e2
(n) =
_
x
2
(n) , pentru n < N
2
0 , pentru n >= N
2
Operat ia de extindere este obligatorie datorit a necesit at ii ca am-
bele transformate Fourier s a aib a componente spectrale pe ace-
leasi frecvent e. Dac a se extind cele dou a secvent e n modul
prezentat, atunci lungimile lor vor egale si, deci, vor ap area
aceleasi frecvent e.
52
4.2. Transformata Fourier discret a
Se calculeaza transformatele Fourier discrete ale celor dou a secvent e.
X
1
(k) =
N
1
+N
2
2

n=0
x
e1
(n)e

2k
N
1
+N
2
1
n
, unde k = 0, . . . , N
1
+N
2
2
X
2
(k) =
N
1
+N
2
2

n=0
x
e2
(n)e

2k
N
1
+N
2
1
n
, unde k = 0, . . . , N
1
+N
2
2
Secvent ele spectrale se nmult esc element cu element.
Y (k) = X
1
(k)X
2
(k) , unde k = 0, . . . , N
1
+ N
2
2
Se calculeaza transformata Fourier invers a a secvent ei rezultate.
Aceasta este egal a cu transformata Fourier a convolut iei circulare
a celor dou a secvent e x
1
si x
2
.
y(n) = F
1
d
{Y (k)} (n) = (x
1
x
2
)
c
(n) (4.19)
Transformata Fourier discret a accept a un algoritm de calcul de com-
plexitate O(N log
2
N). Dac a se aplic a direct formula 4.12, pentru
calculul ec arei componente spectrale este necesar a nsumarea a N
termeni. Acest a operat ie poate simplicat a deoarece acelasi ter-
men de nsumat contribuie la mai multe componente spectrale (vezi
[7]). Prin simplicare, transformata Fourier rapid a poate v azut a
ca o operat ie n doi pasi: n primul se evaluaz a cei N termeni, iar
n al doilea se adaug a contribut ia ec aruia la componentele spectrale
corespunzatoare. Cea mai simpl a variant a de calcul a transformatei
Fourier rapid a se obt ine n cazul n care N este o putere a lui 2 (vezi
[6]). Totusi Cooley si Tukey (n [2]) indic a o metoda de calcul rapid a
pentru o secvent a oarecare (indiferent de lungimea ei). Aceast a vari-
ant a este implementat a n Matlab de c atre funct ia t. FFT este o
prescuratare a sintagmei Fast Fourier Transform.
53
LUCRAREA 4. TRANSFORMATA FOURIER
4.3 Desfasurarea lucrarii
1. S a se calculeze transformata Fourier a semnalului x(t) = 2 pentru
t = [0, M] si x(t) = 0 pentru t [M, N]. S a se reprezinte grac partea
real a a spectrului Fourier.
Rezolvare:
Vom calcula, mai int ai, teoretic transfomata Fourier a semnalului
x(t) = A, t R. Se stie ca transformata Fourier a unui semnal
de tip Dirac, (t) este 1. Acest lucru este usor de demonstrat:
F {(t)} () =

(t)e
jt
dt = 1
Folosind proprietatea de simetrie:
F{1}() = 2() = 2()
Deci transformata Fourier a funct iei x(t) = A, t R este X() =
2A().
Dac a se doreste s a se calculeze transformata Fourier a funct iei y(t) =
A, t [B, B] aceasta este: Y () = 2AB sinc(B).
Codul Matlab care implementeaz a calculul unor asemenea secvent e
este:
N = 200; M = 100;
x = 2 + zeros(1,N);
y = zeros(1,N); y(1:M) = 2;
X = real(fft(x));
Y = real(fft(y));
plot(X, b );
hold on; plot(Y, k );
Zona de interes a rezultatului grac al acestei secvent e poate vizual-
izat n gura 4.6.
Un semnal constant nu are nici un fel de variat ie, deci spectrul s au
va cont ine o singur a component a (si anume componenta continu a).
In momentul n care n semnal apare un salt (cazul lui y(t)), acesta
va introduce diferite variat ii, ceea ce implic a aparit ia de componente
nenule pe alte frecvent e.
Tema: Sa se varieze parametri M si N, si sa se urm areasc a inuent a lor
asupra amplitudinii componentelor spectrale.
Cum ar arata spectrul semnalelor daca s-ar considerat cazul continuu (s-ar
folosit transformata Fourier continua)?
2. S a se calculeze transformata Fourier a semnalului x(t) = 2 sin(2t) pen-
tru t = [0, 6]. Sa se reprezinte grac modulul spectrului.
54
4.3. Desf asurarea lucr arii
5 10 15 20 25 30 35
0
50
100
150
200
250
300
350
Figura 4.6: Transformata Fourier discret a a unei secvent e constante respec-
tiv a unei funct ii poart a.
Rezolvare: Vom calcula, mai nt ai, teoretic, transfomata Fourier a
semnalului x(t) = Asin(
0
t):
se stie c a sin(
0
t) =
j
2
_
e
j
0
t
e
j
0
t
_
X() = F {x(t)} () =

Asin(
0
t)e
jt
dt
=

A
2
j
_
e
j
0
t
e
j
0
t
_
e
jt
dt
=
A
2
j

e
j(
0
)t
1dt
A
2
j

e
j(+
0
)t
1dt
Stiind c a transformata Fourier invers a a semnalului constant n timp
1 este 2(), si folosind teorema deplas arii n frecvent a se obt ine:
X() = F {x(t)} () = A(
0
) + A( +
0
)
Un semnal real va avea spectrul simetric fat a de componenta continu a.
Funct ia sin(t) are o singur a frecvent a. De aceea este normal s a apar a
o singur a component a spectral a.
Dac a ne g andim la implementarea Matlab a cerint elor, functia sin(t)
este aproximat a prin esantioane ale ei. Cu c at num arul de esantioane
este mai mare cu at at reprezentarea este mai precis a
4
.
Tema: Sa se urm areasc an ce fel num arul de esantionane considerate inuent eaz a
spectrul.
4
O justicare poate obt inuta daca ne aducem aminte ca transformata Fourier con-
tinua reprezinta o proiect ie a semnalului pe cercul unitate. Transformata Fourier discreta
se calculeaza ntr-un numar nit de puncte de pe acest cerc. Evident, cu cat numarul de
puncte este mai mare, cu atat se obt ine o aproximare mai precisa a cercului.
55
LUCRAREA 4. TRANSFORMATA FOURIER
3. Se urm areste modul n care funct ia t construieste spectrul unui sem-
nal. Pentru aceasta, se consider a un semnal x(t) esantionat cu T
es
si
achizit ionat ntre 0 si T
max
.
Num arul de esantioane (lungimea secvent ei) este evident N =
T
max
T
es
+1.
Transformata Fourier discret a a unei secvent e de lungime N este tot
N.
Init ial, se calculeaz a transformata Fourier pe cercul unitate consid-
erat n [0, 2]. In acest caz, componenta continu a va la cap atul
din st anga. Dac a se doreste simetrizarea spectrului (componenta con-
tinu a n centru) atunci trebuie reprezentat cercul unitate n [, ].
Practic, funct ia tshift permite mutarea segmentului [, 2] n [, 0].
Se stie c antr-un semnal esantionat ([7]) frecvent a maxim a reprezentabil a
este jum atate din frecvent a de esantionare: f
max
=
f
e
2
=
1
2T
e
. Frecvent a
minim a surprins a a semnalului este f
min
=
1
T
max
. Dac a se consider a
spectrul simetric, atunci domeniul de frecvent e reprezentat este:
__

1
2T
e
_
,
_

1
2T
e
+
1
T
max
_
, . . . , 0,
_
1
T
max
_
, . . . ,
_
1
2T
e
__
=
__

f
e
2
_
,
_

f
e
2
+ f
min
_
, . . . , 0, (f
min
) , . . . ,
_
f
e
2
__
=
_
() ,
_
+ 1
2
N
_
,
_
+ 2
2
N
_
, . . . , 0,
_
2
N
_
, . . . , ()
_
(4.20)
Tema: Sa se urm areasc a aceste aspecte pentru semnale sinusoidale (cum sunt
x
1
(t) = sin(2 50t),x
2
(t) = sin(2 100t), etc.) prin identicare indicelui
valorii importante din spectru cu componenta de frecvent a corespunzatoare
.
4. Convolut ia a dou a semnale. Se vor considera dou a semnale de tip
poart a si se va calcula rezultatul convolut iei dintre ele at at n dome-
niul timp, c at si n domeniul frecvent a.
Rezolvare: Convolut ia este implementat a n Matlab prin funct ia
conv. Codul necesar este:
N = 200;
x = zeros(1,N);
X1 = 40; X2 = 50;
x(X1:X2) = 1;
y = zeros(1,N);
Y1 = 40; Y2 = 50;
y(Y1:Y2) = 1;
zt = conv(x,y);
subplot(1,2,1); plot(zt);
axis([0, 200,-1 12]);
zf = real(ifft(fft(x).* fft(y)));
subplot(1,2,2); plot(zf);
56
4.3. Desf asurarea lucr arii
axis([0, 200,-1 12]);
Rezultatul poate vizualizat n gura 4.7.
0 50 100 150 200
0
2
4
6
8
10
12
0 50 100 150 200
0
2
4
6
8
10
12
Figura 4.7: Convolut ia a dou a semnale de tip poart a, implementat a, direct,
n spat iu (stanga), respectiv n frecvent a (dreapta).
Tema: Care este diferent a ntre rezultatele obt inute prin cele doua metode?
Cum variaza rezultatul convolut iei daca se modica parametri semnalului
(lat imea port ii) de la intrare?
5. S a se studieze convolut ia pentru dou a semnale oarecare. S a se urm areasc a
efectele translat iei circulare n cazul implement arii n frecvent a.
6. Filtrare. Se va considera semnalul x(t) = sin(t) +sin(6t) +sin(7t).
Se va ltra acest semnal, pe r and cu:
Un ltru trece jos (FTJ) ideal av and frecvent a de t aiere
t
= 1.
Un ltru trece banda (FTB) ideal av and frecvent a central a
0
= 3
si l at imea benzii de trecere = 1.5.
Un ltru trece sus (FTS) ideal av and frecvent a de t aiere
t
= 5.5.
Se va vizualiza rezultatul ec arei operat ii de ltrare. Operat ia se va
implementa n frecvent a.
Rezolvare: Modulele funct iilor de transfer ale celor trei ltre sunt
(vezi si gura 4.8):
|H
FTJ
()| =
_
1 , pentru ||
t
0 , n rest
|H
FTB
()| =
_
1 , pentru || [
0


2
,
0
+

2
]
0 , n rest
57
LUCRAREA 4. TRANSFORMATA FOURIER
|H
FTS
()| =
_
1 , pentru ||
t
0 , n rest
10 0 10
0.5
0
0.5
1
1.5
FTJ
10 0 10
0.5
0
0.5
1
1.5
FTB
10 0 10
0.5
0
0.5
1
1.5
FTS
Figura 4.8: Modulul funct iilor de transfer a ltrelor uzuale
Codul Matlab este:
close all;
tes = 0.05; tmax = 10;
t= 0 : tes : tmax;
%f1=1hz f2=3Hz f3=4Hz
x= sin(0.5*2*pi*t) + sin(3*2*pi*t) + sin(7*2*pi*t);
subplot(1,2,1); plot(t, x);
%fftshift se foloseste pentru a avea frecventa continua in
centrul %spectrului
X = fftshift(fft(x));
lg2 = floor(length(x) / 2);
f = -1 / (tes*2*lg2) .* (-lg2 : lg2);
subplot(1,2,2); plot(f, abs(X));
hftj = zeros(size(f)); hftj( abs(f) <1 )=1;
hftb = zeros(size(f)); hftb((abs(f) > 1.5) & (abs(f) < 4.5))
= 1;
hfts = zeros(size(f)); hfts(abs(f) > 5.5) =1;
hold on;
plot(f, 10 * hftj, r);
plot(f, 10 * hftb, g);
plot(f, 10 * hfts, k);
hold off;
xftj = real(ifft(fftshift(hftj .* X)));
xftb = real(ifft(fftshift(hftb .* X)));
58
4.3. Desf asurarea lucr arii
xfts = real(ifft(fftshift(hfts .* X)));
figure;
subplot(1,3,1); plot(t, xftj, k); axis([0 tmax -1.1 1.1]);
subplot(1,3,2); plot(t, xftb, k); axis([0 tmax -1.1 1.1]);
subplot(1,3,3); plot(t, xfts, k); axis([0 tmax -1.1 1.1]);
x 1 = sin(0.5*2*pi*t); x 2 = sin(3*2*pi*t); x 3 = sin(7*2*pi*t);
figure;
subplot(1,3,1); plot(t, x 1, k); axis([0 tmax-3.1 3.1]);
subplot(1,3,2); plot(t, x 2, k); axis([0 tmax -3.1 3.1]);
subplot(1,3,3); plot(t, x 3, k); axis([0 tmax -3.1 3.1]);
Semnalele ltrate pot v azute n gura 4.9. Se poate observa c a
semnalele ltrate sunt diferite fat a de cele asteptate
5
. Prin ltrare s-
au pierdut anumite componente. Totusi se poate observa c a frecvent a
principala a semnalului este cea asteptat a.
0 5 10
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
0 5 10
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
0 5 10
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
Figura 4.9: Rezultatul ltrarii semnalului prin cele trei ltre
Tema: Sa se implementeze operat ia de ltrare direct n domeniul timp.
Pentru aceasta se vor calcula intai funct iile pondere ale celor trei ltre.
5
Printre cauze trebuie amintite si cele legate de lipsa preocuparii fat a de faza ltrului.
Ea fost considerata nula ceea ce este gresit.
59
LUCRAREA 4. TRANSFORMATA FOURIER
4.4 Exercit ii si teme propuse
1. Denit i transformata Fourier a unei funct ii continue.
2. Demonstrat i proprietatea de conservare a energiei.

In ce fel se scrie
aceast a proprietate pentru spectrul unei secvent e discrete?
3. Se nt ampl a ca pentru funct ii a c aror transformat a Fourier are numai
parte real a (n urma unui calcul teoretic) funct ia t s a raporteze o
parte imaginara nenul a. De ce?
4. Care este transformata Fourier a unei funct ii de tip dubl a poart a (sim-
ilara cu modului funct iei de transfer a unui FTB)?
5. Din punct de vedere al complexit at ii de calcul, ce modalitate este
mai rapid a pentru a implementa convolut ia (n timp - direct sau n
frecvent a)?
60
Lucrarea 5
Semnale aleatoare
Semnalele aleatoare sunt o combinat ie ntre variabile aleatoare (ceea ce im-
plic a o component a nerepetitiv a) si semnalele pure (care sunt, de obicei,
asociate cu o funct ie de timp). Un semnal aleator poate v azut ca o funct ie
care asociaz a ecarei realiz ari particulare a unui experiment un semnal n
timp.
In aceast a lucrare vom modela matematic semnalul aleator si vom prezenta
modualit at ile de descriere a propriet at ilor sale. Acestea sunt prezentate di-
rect n domeniul timp. Pentru analiza spectral a a semnalelor aleatoare se
va face apel la teorema Wiener-Hincin. In nal se va discuta ltrarea sem-
nalelor aleatoare.
5.1 Caracterizarea semnalelor aleatoare
Un semnal aleator este o funct ie de doi parametri: (t, ). Variabila t
indic a desfasurarea n timp, iar variabila xeaz a realizarea particular a.
Simplic and se poate spune c a:
Dac a se xeaz a realizarea particular a (x am =
k
), atunci semnalul
aleator devine funct ie numai de timp : (t, ) (t)
=
k
. Asadar
ecare realizare particular a a unui semnal aleator este un semnal n
timp.
Dac a se xeaz a momentul de timp (x am t = t
k
), atunci semnalul
aleator devine funct ie numai de realizarea particular a: (t, ) ()
t=t
k
.
Aceasta este o variabil a aleatoare. Asadar la ecare moment de timp,
semnalul aleator este o variabil a aleatoare.
Pe scurt, semnalul aleator este un semnal care la orice moment de timp va
o variabil a aleatoare. De obicei, se consider a c a partea aleatoare (legat a
de variabila ) este implicit a, iar semnalul se va nota pe scurt cu (t).
Caracterizarea statistica a semnalului aleator se poate referi la:
O variabil a aleatoare. Aceasta se obt ine dac a se xeaz a un moment de
timp t = t
0
. Parametri sunt cei ai unei variabile aleatoare (discutat i
n lucrarea 2) cu precizarea c a pot diferit i pentru ecare moment de
timp. Mai precis, se denesc:
61
LUCRAREA 5. SEMNALE ALEATOARE
Funct ia de repartit ie de ordinul I :
F

(x, t
0
) = P((t
0
) x), t
0
(5.1)
Funct ia de repartit ie a unui semnal aleator este o funct ie de dou a
variabile: x si t
0
. Indiferent de momentul de timp ales, funct ia
de repartit ie va respecta propriet at ile unei funct ii de repartit ie a
unei variabile aleatoare.
Densitatea de probabilitate de ordinul I :
w

(x, t
0
) =
F

(x, t
0
)
x
, t
0
(5.2)
Si aceasta este o funct ie de dou a variabile. In mod similar, la
orice moment de timp funct ia obt inut a va respecta propriet at ile
unei densit at i de probabilitate.
Momentele statistice, at at centrate c at si necentrate, sunt funct ii
de timp. Ne vom rezuma n a deni momentele des folosite:
Media:
(t
0
) =

xw

(x, t
0
)dx, t
0
(5.3)
Media p atratic a:

2
(t
0
) =

x
2
w

(x, t
0
)dx, t
0
(5.4)
Variant a:

(t
0
) =

_
x (t
0
)
_
2
w

(x, t
0
)dx, t
0
(5.5)
Un vector de dou a variabile aleatoare (o pereche). Acesta se obt ine
prin xarea a dou a momente de timp t
1
si respectiv t
2
.

In acest sens
se poate vorbi despre:
Funct ia de repartit ie de ordinul II :
F

(x
1
, x
2
, t
1
, t
2
) = P(((t
1
) x
1
), ((t
2
) x
2
)), t
1
, t
2
(5.6)
Densitatea de probabilitate de ordinul II :
w

(x
1
, x
2
, t
1
, t
2
) =

2
F

(x
1
, x
2
, t
1
, t
2
)
x
1
x
2
, t
1
, t
2
(5.7)
Momente statistice de ordinul II. Cel mai des folosit astfel de mo-
ment este momentul necentrat de ordinul (1, 1). Acesta deneste
corelat ia a dou a variabile aleatoare.

In cazul semnalelor aleatoare
se transform a ntr-o funct ie de dou a momente de timp, si indc a
62
5.1. Caracterizarea semnalelor aleatoare
cele dou a variabile aleatoare provin din cadrul aceluiasi semnal
discut am despre funct ia de autocorelat ie:
R

(t
1
, t
2
) =

x
1
x
2
w

(x
1
, x
2
, t
1
, t
2
)dx
1
dx
2
= (t
1
)(t
2
), t
1
, t
2
(5.8)
Caracterizarea temporala a semnalului aleator descrie parametri tipici
ai unui semnal. Se xeaz a realizarea particular a ( =
k
= (t) =
k
(t))
si se descrie semnalul asfel obt inut prin:
Media temporal a este un parametru al unei realiz ari particulare si este
denit a ca ind:

k
(t) = lim
T+
1
T
_ T
2

T
2

k
(t)dt (5.9)
Funct ia de autocorelat ie temporal a:

R
k

() = lim
T+
1
T
_ T
2

T
2

k
(t)
k
(t )dt (5.10)
Din toate categoriile de semnale aleatoare, de interes sunt cele care si
p astreaz a anumite propriet at i n raport cu modicarea uneia dintre vari-
abile. Din acest punct de vedere, de interes sunt semnalele stat ionare si cele
ergodice.
5.1.1 Stat ionaritatea semnalelor aleatoare
Proprietatea de stat ionaritate se refer a la independent a de alegerea originii
timpului sau, cu alte cuvinte, la o invariant a la translat ia n timp. Dac a
ne rezum am la semnalele aleatoare, stat ionaritatea presupune p astrarea
parametrilor statistici n raport cu variat ia originii timpului.

In teorie se poate deni not iunea de stat ionaritate n sens strict. Totusi
de interes practic este proprietatea de stat ionaritate n sens larg.
Un semnal aleator este stat ionar n sens larg dac a media sa nu depinde de
timp si funct ia de autocorelat ie depinde numai de diferent a ntre momentele
de timp alese:
(t) se considera SSL dac a
_
(t) = (t + ) =
R

(t
1
, t
2
) = R

(t
1
t
2
) = R

(), = t
1
t
2
(5.11)
5.1.2 Ergodicitatea semnalelor aleatoare
Dac a stat ionaritatea se refer a la variat ia parametrilor statistici n raport cu
timpul, ergodicitatea se refer a la variat ia n raport cu realizarea particular a.
Prima condit ie ca un semnal aleator s a e ergodic este ca el s a e
63
LUCRAREA 5. SEMNALE ALEATOARE
stat ionar.

In acest caz, un semnal este ergodic dac a m arimile temporale
sunt egale cu cele statistice echivalente oricare ar realizarea particular a
considerat a. Se poate vorbi si de ergodicitatea unui singur parametru. De
exemplu, un semnal este ergodic n sensul mediei dac a media temporal a a
oric arei realiz ari particulare este egal a cu media statistic a oricare ar mo-
mentul de timp considerat.
Proprietatea de ergodicitate este de important a vital a n practic a. Dac a
un semnal este ergodic atunci o singur a realizare particular a este sucient a
pentru a determina propriet at ile lui statistice. Dac a un semnal nu este
ergodic atunci sunt necesare foarte multe realiz ari particulare pentru a-l
putea analiza. Studiul lor presupune, de multe ori costuri ridicate n ved-
erea memorarii.

In practica, dac a sunt diponibile put ine realiz ari particulare, semnalul
este presupus a ergodic si acele c ateva realiz ari sunt considerate suciente
pentru a caracteriza semnalul aleator.
5.2 Teorema Wiener-Hincin
Dup a cum am mai amintit, o abordare des utilizat a n analiza semnalelor
este cea spectral a. Din nefericire un semnal aleator stat ionar este de energie
innit a
1
si, deci, nu are transformat a Fourier. Un rezultat important pe
aceast a direct ie este dat de teorema Wiener-Hincin. Dar nainte de a dis-
cuta aceast a teorema s a prezent am propriet at ile a dou a funct ii importante:
funct ia de autocorelat ie si densitatea spectral a de putere a unui semnal
aleator.
5.2.1 Funct ia de autocorelat ie
Funct ia de autocorelat ie a unui semnal stat ionar n sens larg, (t) este
denit a ca ind:
R

() = (t)(t + ), t R (5.12)
Propriet at ile funct iei de autocorelat ie a unui semnal aleator stat ionar n sens
larg sunt:
Este maxim a n origine:
R

(0) |R

()|, (5.13)
Este par a:
R

() = R

(), 0 (5.14)
Valoarea n zero este media p atratic a a semnalului:
R

(0) = (t)(t) =
2
(5.15)
1
Limitarea energiei unui semnal presupune, de cele mai multe ori, ca el tinde asimptotic
catre zero odata cu |t| . Asemenea ipoteza nu este permisa de stat ionaritate: ar
nsemna, de exemplu, ca exista dispersii diferite n jurul originii si respectiv catre innit.
64
5.2. Teorema Wiener-Hincin
Dac a semnalul nu este periodic atunci valoarea la + este p atratul
mediei semnalului:
R

(+) = (t)(t +) =
2
(5.16)
Dac a semnalul aleator este periodic de perioad a T, atunci si funct ia
sa de autocorelat ie este periodic a de perioad a T:
Dac a (t) = (t + T), t R

() = R

( + T), (5.17)
5.2.2 Densitatea spectrala de putere
Dup a cum am amintit, un semnal aleator SSL nu are transformat a Fourier.
Totusi se poate da o masur a a spectrului semnalului. Pentru a o construi
sunt necesari urm atori pasi:
Se considera o realizare particular a a semnalui (t):
k
(t). Aceasta este
denit a pe un suport nelimitat, si are, n consecint a, energie innit a.
Se truncheaz a la un interval de lungime T din jurul originii:

T
k
(t) =
_

k
(t) , pentru
T
2
t
T
2
0 , n rest
Aceast a trunchiere este de energie nit a (ind de suport nit), deci
are transformat a Fourier:
X
T
k
() = F
_

T
k
(t)

Se deneste densitatea spectral a de putere a semnalului (t) ca ind:


q

() = lim
T +
|X
T
k
()|
2
T
(5.18)
unde medierea de la num ar ator este dup a toate realiz arile particulare
ale semnalului aleator.
Propriet at ile densit at ii spectrale de putere sunt:
Este o funct ie ce ia numai valori reale si pozitive (este raportul dintre
modulul unei funct ii si un num ar real si pozitiv);
Puterea semnalului este:
P =
1
2

()d
Teorema Wiener-Hincin arm a c a transformata Fourier a funct iei de
autocorelat ie a unui semnal aleator stat ionar n sens larg este densitatea
spectral a de putere a acestuia:
F [R

()] = q

() (5.19)
65
LUCRAREA 5. SEMNALE ALEATOARE
Este necesar de facut o observat ie: ipoteza de stat ionaritate a semnalului
este necesar a n primul r and pentru a putea scrie funct ia de autocorelat ie n
acest a form a compact a (de o singur a variabil a).
Folosind rezultatul acestei teoreme, putem calcula o m arime spectral a
care s a caracterizeze un semnal aleator. Mai mult, se pot determina anumit i
parametri ai raspunsului unui ltru c and la intrare i se prezint a un semnal
aleator de funct ie de autocorelat ie cunoscut a. In fapt aceste rezultate vor
prezentate pe scurt n sect iunea urm atoare.
5.3 Trecerea semnalelor aleatoare prin sisteme
liniare
Un sistem este liniar dac a respect a principiul superpozit iei: cand la intrare
se prezint a o sum a ponderat a de semnale, iesirea va consta ntr-o sum a (cu
aceleasi ponderi) ale r aspunsurilor ec arui semnal considerat independent.
Un ltru este caracterizat de funct ia pondere h(t) n domeniul timp
si de funct ia de transfer H(w) (transformata Fourier a funct iei pondere)
n domeniul frecvent a. Dac a la intrarea unui asemnea ltru se prezint a
semnalul aleator (t), iar la iesire va rezulta semnalul (t), relat ia ntre ele
este:
(t) = (t) h(t)
sau, echivalent n frecvent a:
F[(t)] = Y () = X()H(), unde F[(t)] = X()
Pentru semnalele aleatoare se poate determina relat ia (vezi [1]):
q

() = |H()|
2
q

() (5.20)
66
5.4. Desf asurarea lucr arii
5.4 Desfasurarea lucrarii
1. Semnale condit ionatdeterministe.

In realitate exist a put ine cazuri
de semnale perfect aleatoare, n care num arul realiz arilor particulare
diferite s a e innit.

In orice caz, acestea sunt dicil de manipulat
n medii de test cum este Matlabul. Mai interesant este studiul asa-
numitelor semnale condit ionatdeterministe. Acestea sunt semnale
parametrice n care un parametru este o realizare particular a a unei
variabile aleatoare.
Fie semnalul x(t) = Asin(t), unde A este realizarea particular a a unei
variabile aleatore gaussiene de medie 0 si dispersie 1. S a se reprezinte
20 de realiz ari particulare ale acestui semnal n intervalul [5, 5]. S a
se calculeze media si dispersia la toate momentele de timp considerate
si s a se repre-zinte grac. S a se calculeze funct ia de autocorelat ie. S a
se decid a asupra stat ionarit at ii semnalului.
Rezolvare: Un calcul teoretic (vezi [10]) arat a c a media semnalului
este constant a:
x(t) = Asin(t) = 0, t
Media p atratica este:
x
2
(t) = A
2
sin
2
(t) = sin
2
(t), t
Funct ia de autocorelat ie este:
R
x
(t, t + ) =x(t)x(t + ) = A
2
sin(t) sin((t + ))
=
1
2
cos()
1
2
cos( + 2t), t
Deci, conform calculului teoretic, semnalul este nestat ionar.
Secvent a Matlab care implementeaz a cerint a acestui exercit iu, poate :
close all; clear all;
N = 20; % num arul de realiz ari particulare
t = -5*pi : 0.5 : 5*pi;
w = 1; % pulsatia
figure;
% reprezent am fiecare realizare particulara pe linia unei matrice
for i = 1:N
x(i,:) = randn(1, 1) * sin(w*t);
plot(t, x(i,:)); hold on;
end
hold off;
% media si dispersia la un moment de timp sunt calculate
% pe coloanele matricei de date
m = mean(x, 1); s = std(x, 0, 1); figure;
subplot(1, 2, 1); plot(t, m);
title(

media

); axis([-5*pi, 5*pi, -1, 1]);


subplot(1, 2, 2); plot(t, s);
67
LUCRAREA 5. SEMNALE ALEATOARE
title(

dispersia

); axis([-5*pi, 5*pi, -1, 1]);


% funct ia de autocorelatie
k1 = 0; k2 = 0; lg = length(t);
for k1 = 1:lg;
for k2 = 1:lg
R(k1, k2) = mean(x(:, k1) .* x(:, k2));
end
end
figure;
surf(t, t, R); colormap(gray(256));
title(

functia de autocorelatie

);
Rezultatul grac al acestei secvent e poate vizualizat n gura 5.1.

In mod natural, rul ari consecutive ale codului vor duce la rezultate
diferite, sursa diferent elor const and n valorile diferite ale realiz arilor
particulare. Se poate observa c a, desi teoretic media este 0, practic
ea va avea valori nenule. Acest fapt se datoreaz a setului de realiz ari
particulare ale densit at i de probabilitate gaussian a, care la r andul lui
nu are media 0. Dac a se creste num arul de realiz ari particulare se va
observa o apropiere de axa absciselor.
2. Aceeasi cerint a ca si n cazul problemei precedente, dar pentru sem-
nalul x(t) = Asin(
0
t + P), unde A si
0
sunt constante, iar P este
o realizare particular a a unei variabile aleatoare distribuite uniformn
[, ].
Rezolvare: Teoretic, media semnalului este:
x(t) =
_

1
2
Asin(
0
t + z)dz = 0, t
Media p atratica este:
x
2
(t) =
_

A
2
2
sin
2
(
0
t + z) =
A
2
4
+
A
2
2
cos(2
0
t + 2z)

=
A
2
4
, t
Funct ia de autocorelat ie este:
R
x
(t, t + ) = x(t)x(t + ) =
_

A
2
2
sin(
0
t + z) sin(
0
t + + z)dz =
=
A
2
2
cos(
0
()) +
A
2
2
cos(
0
(2t + ) + 2z)

=
A
2
2
cos(
0
),
Aceste rezultate implic a stat ionaritatean sens larg a procesului aleator.

In practica se vor constata mici diferent e (vezi gura 5.2): media si


dispersia vor tinde c atre constant a n momentul n care num arul de
realiz ari particulare creste. Faptul c a funct ia de autocorelat ie depinde
numai de diferent a ntre momentele de timp considerate este vizibil n
valorile constant egale aate pe drepte paralele cu prima bisectoare:
68
5.4. Desf asurarea lucr arii
20 10 0 10 20
3
2
1
0
1
2
3
Semnalul aleator
10 0 10
1
0.5
0
0.5
1
Media
20 10 0 10 20
0
0.2
0.4
0.6
0.8
1
1.2
1.4
Dispersia
20
0
20
20
0
20
2
1
0
1
2
Functia de autocorelatie
Figura 5.1: Semnalul condit ionat-determinist x(t) = Asin(
0
t), media,
dispersia si funct ia sa de autocorelat ie.
de-a lungul acestor drepte sunt punctele aate la un ecart constant n
timp. O sect iune n suprafat a determinat a de funct ia de autocorelat ie
permite obt inerea lui R

().
Secvent a de cod care permite aceste calcule este, n mare m asur a,
similara cu cea de la exercit iul 1. Diferent ele constau n generarea
semnalului aleator:
A = 1;
P = 2*pi * (rand(1,N)-0.5); % uniforma ^n [-,]
for i=1:N
x(i,:) = A*sin(w*t+P(i));
end
Pentru a obt ine R

() facem o sect iune de-a lungul celei de-a doua


bisectoare n suprafat a determinat a de funct ia de autocorelat ie astfel:
for k=1:lg;
69
LUCRAREA 5. SEMNALE ALEATOARE
20 10 0 10 20
1
0.5
0
0.5
1
Semnalul aleator
10 0 10
1
0.5
0
0.5
1
Media
10 0 10
0
0.2
0.4
0.6
0.8
1
Dispersia
20
0
20
20
0
20
1
0.5
0
0.5
1
Functia de autocorelatie
Figura 5.2: Semnalul condit ionat-determinist x(t) = Asin(
0
t +P), media,
dispersia si funct ia sa de autocorelat ie.
r(k) = R(k,lg-k+1);
end
3. Densitatea spectral a de putere. Vom considera exemplul precedent.
Teoretic densitatea spectral a de putere este:
F{R
X
()}() =
A
2
2
(
0
) +
A
2
2
( +
0
) .
Rezolvare: Pentru a calcula direct (pe baza formulei 5.18) se poate
proceda astfel:
X = abs(fft(x,[ ],2));
Q1 = abs(mean(X.*X) / (10*pi));
Semnalul aleator considerat este stat ionar n sens larg, caz n care teo-
rema WinerHincin ne asigur a c a densitatea spectral a de putere este
transformata Fourier a funct iei de autocorelat ie. Adic a, aceasta se
70
5.4. Desf asurarea lucr arii
poate calcula si n domeniul spectral:
Q2 = abs(fft(r));
Cele dou a rezultate sunt asate grac n gura 5.3. Prima observat ie
0 10 20 30 40 50 60 70
0
5
10
15
20
25
30
35
Calcul direct
0 10 20 30 40 50 60 70
0
5
10
15
20
Teorema WienerHincin
Figura 5.3: Densitatea spectral a de putere a unui semnal stat ionar n sens
larg.
este legat a de similaritateantre rezultatul obt inut si cel teoretic; forma
este aceeasi, dar difer a pozit ionarea celor dou a impulsuri Dirac; cauza
cost an esantionarea cu pasi diferit i efectuat an cazul calcului lui r(k),
respectiv x(t).
4. Trecerea semnalelor aleatoare prin sisteme liniare. Filtrarea zgomotu-
lui. Se va considera semnalul x(t) = Asin(
0
t) unde A si
o
sunt dou a
constante. Acestuia i se adaug a un zgomot alb
2
provenind dintr-o vari-
abil a aleatoare gaussian a de medie = 0 si dispersie
2
= 1. Semnalul
rezultat se va ltra cu un ltru trece-band a ideal cu frecvent a central a
egal a cu
0
si cu l at ime de band a convenabil aleas a. S a se reprezinte
semnalul init ial precum si semnalul rezultat la iesirea ltrului.
Rezolvare:
close all; clear all;
A = 2; w0 = 5;
t = -5 : 0.05 : 5;
x = A * sin(w0*t);
n = randn(1,length(t));
xn = x + n; figure;
plot(t, x,

.

);
2
Zgomotul alb este un semnal aleator total decorelat. Oricare doua momente de timp
diferite am considera, variabilele aleatoare cospunzatoare acestor momente sunt indepen-
dente. Funct ia sa de autocorelat ie este un impuls Dirac plasat n origine, iar densitatea
spectrala de putere este constanta.
71
LUCRAREA 5. SEMNALE ALEATOARE
hold on; plot(t, xn,

k

);
XN = fft(xn);
figure; plot(abs(XN));
FTB = zeros(size(XN));
FTB(6:12) = 1; FTB(end-11:end-5) = 1;
hold on; plot(100*FTB,

);
XF = XN .* FTB; xf = real(ifft(XF));
figure(1); hold on; plot(t, xf,

*K

); hold off;
Semnalul original, semnalul zgomotos precum si semnalul ltrat pot
vizualizate n gura 5.4
5 4 3 2 1 0 1 2 3 4 5
4
3
2
1
0
1
2
3
4
5
Figura 5.4: Filtrarea zgomotului: semnalul init ial, semnalul zgomotos (linie
punctat a) si semnalul ltrat (linie ntrerupt a).
5. Filtru adaptat la semnal. Se poate ar ata (??) c a cel mai bun mod de
a elimina zgomotul este ltrul adaptat la semnal.
Tema: Pentru problema precedenta, sa se implementeze ltrul adaptat la
semnalul x(t) si sa se vizualizeze rezultatul ltr arii.
72
5.5. Exercit ii si teme propuse
5.5 Exercit ii si teme propuse
1. Ce este un semnal aleator? Dat i exemple?
2. Ce presupune not iunea de stat ionaritate? Dar cea de erogodicitate?
3. Dat i exemplu de un semnal care s a aib a media independent a de timp si
funct ia de autocorelat ie dependent a doar de ecartul ntre momentele
considerate, dar s a nu aib a densitatea de probabilitate de ordinul I
independent a de momentul de timp ales?
4. Cum se poate verica practic ipoteza de ergodicitate a mediei?
5. Ce leg atura este ntre transformata Fourier a unui semnal aleator SSL
si densitatea sa spectral a de putere?
6. Care dintre urm atoarele funct ii pot funct ii de autocorelat ie ale unor
semnale aleatoare SSL?
(a) R

() = 5;
(b) R

() = sin();
(c) R

() = cos();
(d) R

() = 5, pentru [5, 5] ;
(e) R

() =
1
1+
2
;
(f) R

() =
1
1+
3
;
(g) R

() =
1
||
;
(h) R

() =
1

;
7. Care dintre urm atoarele funct ii pot densit at i spectrale de putere ale
unor semnale aleatoare SSL?
(a) q

() = 2;
(b) q

() = sin();
(c) q

() = 2 + cos(); ;
(d) q

() =
1
1+
2
;
(e) q

() =
1
1+
3
;
(f) q

() =
1
||
;
(g) q

( =
1

;
8. Semnalul x(t) = cos(t) este afectat de zgomot alb, aditiv provenind
dintr-o distribut ie gaussian a. Propunet i o metod a care s a reduc a put-
erea zgomotului. Se pune aceeasi problem a cu cerint a suplimentar a ca
toate operat iile efectuate s a e n spat iul de baz a (timpul).
9. Semnalul x(t) = cos(t) este afectat de zgomot alb, aditiv provenind
dintr-o distribut ie gaussian a. Cum se poate proceda pentru a deter-
mina media si dispersia zgomotului av and la dispozit ie numai semnalul
zgomotos?
73
LUCRAREA 5. SEMNALE ALEATOARE
10. Fie un semnal zgomotos. Zgomotul este dependent de semnal (este
mare c and semnalul este mare s.a.m.d). Un mod simplu n care se
obt ine un asemenea fenomen este utilizarea modelului zgomotului mul-
tiplicativ:
(t) = n(t)x(t) ,
unde x este semnalul original, iar n zgomotul multiplicativ. Pentru
acest caz (al zgomotului multiplicativ), s a se propun a o metod a de re-
ducere a puterii zgomotului. Un posibil exemplu de zgomot dependent
de semnal se poate vedea n gura 5.5.
5 4 3 2 1 0 1 2 3 4 5
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
Figura 5.5: Semnalul cos(t) afectat de zgomot multiplicativ provenind dintr-
o distribut ie gaussian a de medie 0 si dispersie 1. Cu linie ntrerupt a este
reprezentat a varianta ltrat a.
74
Lucrarea 6
Detect ia statistica a
semnalelor
Detect ia statistic a a semnalelor reprezint a un exemplu simplu n care se
aplic a not iunile discutate de analiz a statistic a a semnalelor. Mai precis,
ne vom plasa n postura unui utilizator, care se a a n fat a unei alegeri
referitoare la natura unui semnal recept ionat. Deoarece perturbat ia care a
intervenit este de natura aleatoare, ecare realizare particular a ind diferit a,
pentru a ecientiza alegerea facut a, el trebuie s a fac a apel la m asuri ce car-
acterizeaza statistic zgomotul
1
. In continuare vom detalia modelul lant ului
de transmisiune cu detect ie precum si solut ia propus a pentru a rezolva prob-
lema.
Figura 6.1 prezint a schema general a a lant ului de transmisiune. S este
o surs a de informat ie discret a, f ar a memorie, ce poate genera simboluri,
cu probabilit at i cunoscute. Pentru transmiterea pe un canal de transmisi-
une zgomotos, simbolurilor li se asociaz a semnale n timp, de durat a nit a.
Aceste semnale sunt transmise pe canal. Ceea ce se recept ioneaz a este un
amestec ntre semnalul emis si zgomotul care intervine pe canal. Pe baza
esantioanelor semnalului recept ionat, n blocul de decizie D se hot ar aste ce
simbol a fost emis de sursa S.
Figura 6.1: Schema generala a unui lant de transmisiune cu detect ie.
1
Se cere elaborarea unei solut ii generale, care sa nu t ina cont de realizarea particulara
a perturbat iei. O masura general valabila, n cazul unei variabile aleatoare, este, de
exemplu, densitatea de probabilitate.
75
LUCRAREA 6. DETECT IA STATISTIC

A A SEMNALELOR
Simbol emis Decizie (simbol recept ionat) Notat ie Justet e
S
0
D
0
D
0
/S
0
corect
S
0
D
1
D
1
/S
0
gresit
S
1
D
0
D
0
/S
1
gresit
S
1
D
1
D
1
/S
1
corect
Figura 6.2: Simboluri emise si decizii posibile n cazul binar.
6.1 Detect ie n cazul binar. Criteriul lui Bayes
Vom simplica problema. Se va considera c a sursa S poate emite doar
dou a simboluri: S
0
si S
1
, cu probabilit at ile P
0
si P
1
cunoscute. In mod
evident P
0
+ P
1
= 1. Celor dou a simboluri li se asociaz a semnalele n timp,
cunoscute, s
0
(t) si s
1
(t) de durat a nit a (t [0, T]). Esantioanele acestor
semnale sunt transmise mai departe pe canalul de transmisiune. Aici li se
adaug a zgomot. Vom considera c a avem de-a face cu zgomot alb, care,
dup a cum se stie este modelat ca ind un semnal aleator, cu esantioane
independente. In plus, l vom considera si aditiv. In blocul de decizie, pe
baza esantioanelor semnalului recept ionat se pot lua dou a decizii:
D
0
dac a se decide c a semnalul recept ionat provine din semnalul s
0
si, deci, sursa a emis simbolul S
0
;
D
1
dac a se decide c a semnalul recept ionat provine din semnalul s
1
si, deci, sursa a emis simbolul S
1
.
Vom nota cu D
j
/S
i
faptul c a s-a luat decizia D
j
atunci c and s-a transmis
S
i
. Variantele posibile de decizie n funct ie de simbolul emis pot urm arite
n gura 6.2
Probabilitatea de eroare la decizie este dat a de ecuat ia:
P
e
= P
0
P(D
1
/S
0
) + P
1
P(D
0
/S
1
) (6.1)
Un criteriu pe baza c aruia se poate lua decizia este cel al minimiz arii
probabilit at ii de eroare. Ins a nu ntotdeauna deciziile au acelasi impact. In
general o decizie gresit a cost a mai mult dec at una corect a, dar, n plus, se
poate nt ampla ca o greseal a s a e mai important a decat alta.
Exemplul clasic este cel al radarului n r azboi, n care se decide prezent a,
respectiv absent a avioanelor inamice. Cazul n care un avion inamic nu a
fost detectat (D
0
/S
1
este numit a si miss detection) ar putea considerat
mai grav dec at cel n care s-a decis prezent a acestuia desi avionul nu exista
(D
1
/S
0
este numit a si false alarm).
Un alt exemplu poate cel al unui medic generalist. Uneori este mai
grav ca medicul s a decid a c a pacientul s au este s an atos desi acesta este
bonav (D
0
/S
1
) dec at dac a decizia este c a pacientul este bolnav cand acesta
este s an atos (D
0
/S
1
).
Atunci c and unele erori sunt mai grave dec at altele, ar trebui t inut cont
de acest lucru n procesul de decizie. Acesta se face denind costul ec arei
decizii. Vom nota cu c
ij
costul situat iei n care s-a transmis S
i
si s-a decis D
j
76
6.1. Detect ie n cazul binar. Criteriul lui Bayes
(situat ia (S
i
, D
j
)). Cu ajutorul acestor cunostint e suplimentare vom deni
o funct ie de risc ca ind costul mediu al deciziilor:
Risc =
1

i=0
1

j=0
c
ij
P(S
i
) P(D
j
/S
i
) (6.2)
Criteriul de decizie Bayes are ca regul a de decizie minimizarea acestei funct ii
de risc. In urma calculelor de minimizare (ce pot urm ariten [1] ) se ajunge
la urm atorul rezultat:
(R)
D
1
D
0
K , (6.3)
unde (R) se numeste raport de plauzibilitate si reprezint a:
(R) =
w(R/S
1
)
w(R/S
0
)
, (6.4)
iar K se numeste pragul testului si este o constant a:
K =
P
0
P
1

c
01
c
00
c
10
c
11
(6.5)
S-a notat cu w(R/S
i
) densitatea de probabilitate a semnalului recept ionat,
esantionat r obt inut a n cazul n care s-a transmis S
i
. Cine sunt aceste den-
sit at i de probabilitate?
6.1.1 Particularizare: zgomot alb gaussian de medie nula
Vom particulariza regula de decizie Bayes pentru un caz foarte des (poate
cel mai des) folosit. Vom presupune c a zgomotul de pe canal este zgomot
alb, aditiv, gaussian, de medie nul a si dispersie cunoscut a. In continuare
vom detalia prezentarea acestui caz.
Dac a sursa emite simbolul S
i
, urm and lant ul de transmisiune, pe canal
se transmite semnalul n timp s
i
(t) (cunoscut). Asadar, la ecare moment
t
k
[0, T], unde k {1, 2, . . . N}, pe canal se transmite esantionul s
i
(t
k
).
La trecerea acestuia prin canal i se adaug a zgomot. Pentru a preciza ce
s-a transmis pe canal vom nota semnalul recept ionat la momentul t
k
cu
R(t
k
)/S
i
. Tinand seama de cele spuse mai sus, se poate scrie:
R(t
k
)/S
i
= s
i
(t
k
) + n(t
k
) (6.6)
unde am notat cu n(t
k
) valoarea aleatoare a zgomotului la momentul t
k
,
iar s
i
(t
k
) este o constant a cunoscut a. Asadar R(t
k
)/S
i
este o realizare par-
ticular a a unei variabile aleatoare rezultat a prin nsumarea unei variabile
aleatore gaussiene de medie 0, n(t
k
), cu o constant a s
i
(t
k
). Rezultatul la
randul lui este o variabil a aleatoare gaussian a av and media egal a cu suma
mediilor (deci egal a cu constanta) si dispersie egal a cu cea a zgomotului alb.
Densitatea de probabilitate a lui R(t
k
)/S
i
este:
w
R(t
k
)/S
i
(r(t
k
)) =
1

2
exp
_

[r(t
k
) s
i
(t
k
)]
2
2
2
n
_
(6.7)
77
LUCRAREA 6. DETECT IA STATISTIC

A A SEMNALELOR
Stim, asadar, distribut iile de ordin unu ale tuturor celor N componente ale
vectorului R/S
i
. Pentru a putea aplica ecuat ia 6.4 ne trebuie distribut ia
de ordin N a tuturor componentelor. Dup a cum se stie, singurul caz n
care putem aa o distribut ie de ordin superior stiind distribut iile de ordin
inferior este acela n care variabilele sunt independente. Dar zgomotul n(t)
este modelat ca zgomot alb, ceea ce nseamn a c a dou a esantioane diferite
ale zgomotului sunt decorelate. In plus, ele sunt si gaussiene si deci pot
considerate independente. Stim c a pentru dou a variabile independente
(, ):
w

(x, y) = w

(x) w

(y), x, y (6.8)
In cazul nostru avem de-a face cu N variabile independente, distribuite
gaussian; deci, va rezulta:
w
R/S
i
(r) =
N

k=1
w
R(t
k
)/S
i
(r(t
k
)) =
=
_
1

2
_
N
exp
_

1
2
2
n
N

k=1
[r(t
k
) s
i
(t
k
)]
2
_ (6.9)
Av and densit at ile de probabilitate deduse, putem calcula raportul de
plauzibilitate conform formulei 6.4:
(R) =
w(R/S
1
)
w(R/S
0
)
=
_
1

2
_
N
exp
_

1
2
2
n

N
k=1
[r(t
k
) s
1
(t
k
)]
2
_
_
1

2
_
N
exp
_

1
2
2
n

N
k=1
[r(t
k
) s
0
(t
k
)]
2
_
=
=exp
_
1

2
n
N

k=1
r(t
k
) [s
1
(t
k
) s
0
(t
k
)]
1
2
2
n
N

k=1
[s
1
(t
k
)
2
s
0
(t
k
)
2
]
_
(6.10)
Asadar regula de decizie Bayes devine, n cazul de fat a:
exp
_
1

2
n
N

k=1
r(t
k
)[s
1
(t
k
) s
0
(t
k
)]
1
2
2
n
N

k=1
[s
1
(t
k
)
2
s
0
(t
k
)
2
]
_

D
1
D
0
K
(6.11)
Dac a aplic am ambilor membri logaritmul natural:
1

2
n
N

k=1
r(t
k
)[s
1
(t
k
) s
0
(t
k
)]
1
2
2
n
N

k=1
[s
1
(t
k
)
2
s
0
(t
k
)
2
]
D
1
D
0
ln K (6.12)
F acand c ateva prelucr ari elementare, ajungem la cea mai simpl a form a
a criteriului lui Bayes, pentru acest caz particular:
N

k=1
r(t
k
)[s
1
(t
k
) s
0
(t
k
)]
D
1
D
0
1
2
N

k=1
[s
1
(t
k
)
2
s
0
(t
k
)
2
] +
2
n
ln K . (6.13)
Decizia se ia nlocuind n formula de mai sus si veric and semnul ine-
galit at ii. Dar care este probabilitatea de eroare n acest caz? Exist a dou a
moduri n care se poate ajunge la o decizie gresit a:
78
6.1. Detect ie n cazul binar. Criteriul lui Bayes
alarma fals a (false alarm): se decide D
1
, c and sursa a emis sim-
bolul S
0
;
t int a ratat a (miss detection): se decide D
0
, c and sursa a emis
simbolul S
1
.
Vom calcula probabilitatea unei alarme false, P(D
1
/S
0
). Pentru a decide
D
1
inseamn a ca are loc inegalitatea:
N

k=1
r(t
k
) [s
1
(t
k
) s
0
(t
k
)] >
2
n
ln K +
1
2
N

k=1
[s
1
(t
k
)
2
s
0
(t
k
)
2
] (6.14)
Membrul drept al inegalit at ii este o constant a pe care, pentru simpli-
care, o vom nota cu const. Combinat ia liniar a a observat iilor (din partea
st anga a inegalit at ii) se noteaz a cu l si se numeste statistic a sucient a.
Stim c a s-a emis S
0
, deci esantionul semnalului recept ionat la momentul
t
k
este, conform formulei 6.6:
r(t
k
) = s
0
(t
k
) + n(t
k
) (6.15)
Deci statistica sucient a devine:
l/S
0
=
N

k=1
[s
0
(t
k
) + n(t
k
)][s
1
(t
k
) s
0
(t
k
)] (6.16)
In formula de mai sus n(t
k
) sunt realiz ari particulare ale variabilei aleatoare
obt inute prin observarea zgomotului alb, n(t), la momente de timp xate.
Deci n(t
k
) sunt realiz ari particulare ale unor variabile aleatoare indepen-
dente, distribuite gaussian de medie nul a si dispersie cunoscut a. Adunarea
acestora cu constantele s
0
(t
k
) le va schimba media de la 0 la s
0
(t
k
). Asadar
statistica sucient a l/S
0
este o combinat ie liniar a de variabile aleatoare
gaussiene si, deci, este la randul ei o gaussian a de medie l si dispersie
l
ce pot usor determinate.
Asadar probabilitatea unei alarme false este:
P(D
1
/S
0
) = P (l/S
0
> const) =
_

const
w
l/S
0
(x)dx (6.17)
In mod similar, se poate determina si probabilitatea P(D
0
/S
1
).
79
LUCRAREA 6. DETECT IA STATISTIC

A A SEMNALELOR
6.2 Desfasurarea lucrarii
1. Fie un sistem binar de transmisiune cu detect ie n care zgomotul aso-
ciat canalului de transmisiune este aditiv, gaussian, de medie n = 0
si variant a
2
n
= 0.1. Semnalele asociate celor dou a simboluri sunt
s
0
(t) = 0 si s
1
(t) = 1 pentru t [1, 100]. Se consider a N=100 de
momente de esantionare. Vizualizat i pe acelasi grac semnalele care
se recept ioneaz a dac a s-a emis S
0
, respectiv S
1
. Modicat i parametri
zgomotului. Ce observat i? Putet i lua o decizie cu privire la ce simbol
s-a emis indiferent de parametri zgomotului?
Rezolvare:
%semnalele asociate celor dou a simboluri
s0 = zeros(1,100); s1 = ones(1,100);
% zgomotul
medie n = 0; sigma n = 0.1;
n = randn(1, 100) * sigma n + medie n;
% e santioanele semnalului receptionat dac a s-a transmis S0
r0 = s0 + n;
% e santioanele semnalului receptionat dac a s-a transmis S1
r1 = s1 + n;
% vizualizare
figure, plot(r0,*r),hold on, plot(r1,.b), hold off;
0 50 100
0.4
0.2
0
0.2
0.4
0.6
0.8
1
1.2
1.4
a)
0 50 100
4.6
4.8
5
5.2
5.4
5.6
5.8
6
6.2
6.4
b)
0 50 100
2
1.5
1
0.5
0
0.5
1
1.5
2
2.5
c)
Figura 6.3: Esantioanele celor dou a semnale recept ionate n condit iile n
care: a) n = 0 si = 0.1; b) n = 5 si = 0.1; c) n = 0 si = 0.5. Remarcat i
separabilitatea celor dou a clase de puncte.
2. Fie sistemul binar de transmisiune cu detect ie din problema prece-
dent a. Se alege momentul de esantionare t
k
= 5. Ce distribut ie are
semnalul w
R(5)/S
0
? Dar w
R(5)/S
1
? Vizualizat i histogramele celor dou a
distribut ii si calculat i media si dispersia pentru ecare dintre ele. Ce
se modic a odat a cu varit ia mediei zgomotului? Dar a variant ei zgo-
motului? Comparat i aceste rezultate cu ce at i observat la exercit iul
precedent.
80
6.2. Desf asurarea lucr arii
Rezolvare.
Stim c a:
R(5)/S
i
= s
i
(5) + n(5), (6.18)
este o realizare particular a a unei variabile aleatoare. Pentru a-i vizual-
iza distribut ia ne sunt necesare c at mai multe astfel de realiz ari par-
ticulare. Vom genera asadar mai multe esantioane ale zgomotului si
le vom aduna constantele corespunz atoare semnalelor asociate sim-
bolurilor. Codul necesar este:
% definim t k
t=5;
% semnalele asociate celor dou a simboluri
s0 = zeros(1,100); s1 = ones(1,100);
% parametri zgomotului
medie n = 0; sigma n = 0.1;
M=20000;%num arul de repetari ale experimentului
for i=1:M
% generam zgomotul. Acesta provine din aceeasi distribut ie
% indiferent de momentul de timp ales
n = sigma n * randn(1,100) + medie n;
% calcul am e santionul semnalului receptionat dac a s-a
emis S0
r0(i) = n(t) + s0(t);
end
for i=1:M
% generam zgomotul
n = sigma n * randn(1,100) + medie n;
% calcul am e santionul semnalului receptionat dac a s-a
emis S1
r1(i) = n(t) + s1(t);
end
% vizualiz am histogramele
[h0, x0] = hist(r0, 100); figure,plot(x0, h0/M)
m0 = mean(r0), d0 = std(r0)
[h1, x1] = hist(r1, 100); figure,plot(x1, h1/M)
m1 = mean(r1), d1 = std(r1)
3. Fie un sistem binar de transmisiune cu detect ie n care zgomotul aso-
ciat canalului de transmisiune este aditiv, gaussian, de medie n = 0 si

n
= 0.01. Semnalele asociate celor dou a simboluri sunt s
0
(t) = sin(t)
si s
1
(t) = cos(t) pentru t [0, ], iar momentul de esantionare
este ales la /4. Ce observat ii putet i face cu privire la distribut iile
w
R(/4)/S
0
si w
R(/4)/S
1
? Se va putea lua o decizie n acest caz?
Modicat i problema astfel nc at s a e posibil a luarea unei decizii. Ce
concluzie putet i trage cu privire la alegerea momentului de esantionare?
81
LUCRAREA 6. DETECT IA STATISTIC

A A SEMNALELOR
1 0 1 2
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
a)
4 5 6 7
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
b)
5 0 5
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
0.04
c)
Figura 6.4: Distribut iile semnalelor recept ionate n condit iile n care: a)
n = 0 si = 0.1; b) n = 5 si = 0.1; c) n = 0 si = 0.5.
0.65 0.7 0.75 0.8
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
0.04
a)
1 0 1 2
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
b)
1 0 1
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
0.04
c)
Figura 6.5: Distribut iile semnalelor recept ionate la momentul de
esantionare: a) /4; b) /2; c) 2/3.
4. Fie un sistem binar de transmisiune cu detect ie n care zgomotul aso-
ciat canalului de transmisiune este aditiv, gaussian, de medie nul a si

n
= 0.5. Semnalele asociate celor dou a simboluri sunt s
0
(t) = 0 si
s
1
(t) = 1 pentru t [0, 5]. Se consider a un moment de esantionare,
iar esantionul semnalului recept ionat (pe baza c aruia se ia decizia)
este r(t
1
) = 0.5. Ce decizie se ia n acest caz, dac a probabilit at ile
celor dou a simboluri sunt egale si, n plus, costurile sunt c
00
= c
11
= 0
si c
10
= c
01
= 1. Ce se nt ampl a dac a dezechilibr am cele dou a proba-
bilitat i? Dar dac a costurile se schimb a? Dar dac a vectorul recept ionat
e diferit? Incercat i mai multe astfel de combinat ii si traget i concluziile.
Rezolvare. Codul necesar este:
% costurile
c00 = 0; c11 = 0; c01 = 1; c10 = 1;
% probabilitat ile simbolurilor emise de surs a
82
6.2. Desf asurarea lucr arii
P0 = 0.5; P1 = 0.5;
% e santioanele semnalului receptionat
r = 0.5;
% e santioanele semnalelor asociate simbolurilor
s0 = 0; s1 = 1;
% parametri zgomotului
medie n=0; sigma n=0.5;
% calculul pragului testului
ln K = log( (P0*(c01-c00))/(P1*(c10-c11)) )
% calculul raportului de plauzibilitate
ln lambda = sum (r .* (s1-s0)/(sigma n^2) - sum(s1.^2-s0.^2)/(2*sigma n^2))
% luarea deciziei
if(ln lambda < ln K)
fprintf(S-a emis S0);
else
fprintf(S-a emis S1);
end
0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9
1
0.5
0
0.5
1
1.5
2
P
0
d
e
c
iz
ie
Figura 6.6: Dependent a deciziei funct ie de probabilit at ile init iale n
condit iile n care c
00
= c
11
= 0 si c
10
= c
01
= 1.
Figura 6.7: Dependent a deciziei funct ie de diferite combinat ii de costuri ale
deciziilor eronate n condit iile n care costurile deciziilor corecte sunt nule si
probabilit at ile init iale sunt egale.
83
LUCRAREA 6. DETECT IA STATISTIC

A A SEMNALELOR
5. Fie un sistem binar de transmisiune cu detect ie n care zgomotul aso-
ciat canalului de transmisiune este aditiv, gaussian, de medie n = 0 si

n
= 0.01. Semnalele asociate celor dou a simboluri sunt s
0
(t) = sin(t)
si s
1
(t) = cos(t) pentru t [0, 2], iar momentele de esantionare sunt
alese la [2/3] si /4. Simulat i n Matlab sistemul de transmisiune
si urm arit i deciziile pe care le ia, stiind c a P0 = 1/3, c
00
= c
11
= 0
si c
10
= c
01
= 1. Modicat i costurile, momentele de esantionare si
parametrii zgomotului si observat i cum se modic a procesul de decizie.
Rezolvare Codul Matlab necesar poate :
clear all, close all
% definim t k
t = [pi/2, 2*pi/3];
% semnalele asociate celor dou a simboluri
s0 = sin(t); s1 = cos(t);
% parametri zgomotului
medie n = 0; sigma n = 0.1;
% distribut ia zgomotului
n = sigma n.^2 * randn(1) + medie n;
%definim costurile
c00 = 0; c11 = 0; c01 = 1; c10 = 1;
%definim probabilitat ile simbolurilor
P0 = 1/3; P1 = 1-P0;
%calcul am pragul testului
fprintf(Pragul testului este:)
K = (P0*(c01-c00))/(P1*(c10-c11))
S = input(Ce simbol s-a emis (0 sau 1)?);
if (S==0)
fprintf(Pe canal s-a transmis:) , s0
r = s0 + n;
elseif(S==1)
fprintf(Pe canal s-a transmis:) , s1
r = s1 + n;
else
fprintf(Sursa poate emite doar simbolurile 0 si 1.);
break;
end
fprintf(La iesirea de pe canal s-a receptionat:) , r
%calcul am raportul de plauzibilitate conform formulei
const = 1 / (sigma n * sqrt(2*pi));
wRiS0 = const * exp(-1/(2 * sigma n^2) * sum((r-s0-medie n).^2));
wRiS1 = const * exp(-1/(2 * sigma n^2) * sum((r-s1-medie n).^2));
lambda = prod(wRiS1)/prod(wRiS0)
%lambda = exp(sum (r .* (s1-s0)) / (sigma n^2)...
- sum(s1.^2 - s0.^2) / (2 * sigma n^2))
%decizia
if(lambda < K)
fprintf(S-a emis 0);
84
6.2. Desf asurarea lucr arii
else
fprintf(S-a emis 1);
end
85
LUCRAREA 6. DETECT IA STATISTIC

A A SEMNALELOR
6.3 Exercit ii si teme propuse
1. Ce reprezint a raportul de plauzibilitate? Explicat i denumirea.
2. Ce semnicat ie zic a are pragul testului?
3. Ce reprezint a statistica sucient a?
4. Reluat i problema 5 n condit iile n care zgomotul are o distribut ie
exponent iala si esantioane independente.
5. Completat i problema 5 cu calculul probabilit at ii erorii de detect ie.
Rulat i programul de mai multe ori, ret inet i deciziile luate n ecare caz
si calculat i probabilitatea erorii folosind aceste decizii. Probabilit at ile
teoretice de eroare corespund cu cele pe care le-at i obt inut prin rulare?
86
Lucrarea 7
Estimarea parametrilor
Dac a n cazul detect iei se punea problema alegerii unui semnal (sau sim-
plist a unui parametru) dintr-un set nit, cunoscut, n cazul estim arii prob-
lema se complic a, iar setul de valori din care trebui ales este innit. Esti-
marea presupune determinarea unui parametru al unui semnal. Pentru a
calcula valoarea acestuia se folosesc mai multe informat ii despre parametrul
c autat. Aceste informat ii sunt obt inute la momentul curent printr-un set
de masur atori asupra semnalului, un set de cunostint e avute nainte de
nceperea experimentului asupra valorilor posibile ale parametrului (den-
umite cunostint e a priori) si prin precizarea modelului (mecanismului) prin
care se obt ine semnalul masurat din valorile init iale.
Un caz tipic n care se pune problema estim arii unui parametru este acela
al masur arii n zgomot a unui semnal parametric
1
. Fie semnalul s(t) care de-
pinde de parametrul astfel nc at semnalul este de fapt s(t, ). M asur atorile
sunt afectate de zgomot aditiv, n(t), iar semnalul disponibil este:
r(t) = s(t, ) + n(t), cu t [0, T] (7.1)
Din masurarea semnalului recept ionat, r(t), n intervalul de timp nit
(si pre-xat) [0, T] se doreste determinarea valorii parametrului purt ator de
informat ie , adica se vrea calculul unui estimat al acestui parametru (notat

).
7.1 Estimarea parametrilor n cazul discret
Analiza semnalului recept ionat se poate face n timp continu, dar mult mai
practic este cazul n care se evaluaz a numai n c ateva (N) momente de
timp; acesta este asa numitul caz discret. Deci, setul de masur atori este
obt inut prin esantionarea semnalului r(t) la N momente de timp t
i
[0, T],
cu i = 1, . . . , N. Esantioanele rezultate sunt observat iile discrete notate
r
i
= r(t
i
). Ansamblul acestor observat ii discrete formeaz a un vector de
masur atori r =

r = [r
1
, r
2
, . . . , r
N
]
2
.
1

In mod similar poate privita problema transmiterii unui semnal parametric pe un


canal afectat de zgomot aditiv. Semnalul recept ionat este obt inut prin nsumarea sem-
nalului util cu zgomotul.
2
Notarea uzuala a unui vector se face cu litera mica cu corp de text ngrosat, de exemplu
r. O matrice este notata uzual cu litera majuscula si cu corp de text ngrosat. Notarea
87
LUCRAREA 7. ESTIMAREA PARAMETRILOR
Desigur, nu se poate obt ine o estimare oric at de precis a a parametrului
deoarece, zgomotul, oric at de mic ar , intervine si disturb a procesul de
masurare. Atunci va exista o eroare de estimare, denit a astfel:
=


Criteriul matematic de alegere a funct iei de estimare este minimizarea cos-
tului erorii de estimare a parametrului prin valoarea

. Costul erorii este
exprimat prin funct ia C() unde C : R R
+
, av and proprietatea c a
C(|x|) este crescatoare pentru orice valoare x real a. Funct ia de cost mode-
leaz a impactul erorii de estimare asupra performant ei sistemului.

In funct ie
de alegerea unei anumite funct ii de cost se pot obt ine diferite tipuri de es-
tim ari.
7.1.1 Estimatul maxim a posteriori
Dac a funct ia de cost este aleas a una uniform a:
C() = C
map
() =
_
0, P
1, > P
(7.2)
atunci rezultatul este asa numitul estimat maxim a posteriori:

map
. Dup a
cum se precizeaz a si n nume, aceast a valoare a parametrului este abscisa
punctului n care densitatea de probabilitate a posteriori si atinge maximul
global.
Pentru a motiva obt inerea acestui rezultat vomncerca s a d am o explicat ie
mai mult bazata pe intuit ie dec at pe un calcul matematic.
S a ncepem prin a considera c a nu stim absolut nimic despre posibilele
valori ale parametrului c autat nainte de nceperea experimentului. In acest
caz nu putem folosi dec at informat ia rezultat a din m asur atori. Este simplu
s a ne imagin am c a dac a valorile m asurate (n mod direct) sunt n intervalul
[10,11] atunci considerarea unei valori corecte undeva n jurul lui 0 este haz-
ardat a. Deci ind dat setul de valori m asurate putem construi o funct ie care
s a exprime sansa ca parametrul c autat s a ia anumite valori. In exemplul am-
intit funct ia va avea valori mari n intervalul [10,11] si din ce n ce mai mici
pe masur a ce ne depart am de acest interval. Totusi putem proceda ntr-un
mod mai elaborat, dac a t inem cont de mecanismul de obt inere a valorilor
masurate.
In modelul descris n sect iunea de nceput am precizat ca m asur atorile
sunt degradate de zgomot. Mai precis, zgomotul se adaug a valorii utile. Ast-
fel mecanismul prin care se obt in valorile m asurate este unul aditiv: unei
constante (parametrul, n varianta cea mai simpl a) i se adaug a realiz ari par-
ticulare ale unei variabile aleatoare (zgomot). Densitatea de probabilitate
care caracterizeaza esantioanele de zgomot se presupune cunoscut a. In acest
unui vector prin

r va folosita n general acolo unde notarea cu corp de text ngrosat
poate crea confuzii.
88
7.1. Estimarea parametrilor n cazul discret
moment putem construi asa numita funct ie de plauzibilitate (sau verosimil-
itate).
In determinarea funct iei de plauzibilitate se presupune o valoare con-
stant a, stiuta, a parametrului. Fiind dat a aceast a valoare, si stiind modul
n care se obt in masur atorile din semnalul init ial putem vorbi despre o pro-
babilitate de aparit ie a unui set de date. De exemplu ce sans a avem s a
obt inem valorile {9, 5; 10; 10, 5} dac a parametrul are valoarea 10, iar zgomo-
tul este aditiv si de medie nula? Evident mare.
Practic, pentru cazul discutat aici, plauzibilitatea este densitatea de pro-
babilitate a unui vector de esantioane de zgomot translatat a cu valoarea
presupus a a parametrului. Notat ia pentru plauzibilitate, w(r|), exprim a
acelasi lucru: care este probabilitatea de a obt ine un set de valori n urma
masur atorilor (care sunt de fapt variabila vectorial a r) pentru o valoare
stiuta a parametrului .
In realitate, valorile masurate sunt cunoscute, iar variabil a este valoarea
parametrului. Se poate considera un domeniu de interes pentru valoarea
estimatului. Pentru ecare valoare din acest interval se poate calcula o
masur a a potrivirii masur atorilor; astfel vom construi o funct ie, denumit a
plauzibilitate.

In practica, se foloseste de multe ori estimatul de maxima plauzibilitate


3
:

mp
= arg max

w(r|) (7.3)
In continuare vom considera c a exist a informat ii despre valorile posibile
ale parametrului nainte de nceperea experimentului. Acestea se pot
constitui ntr-un interval de valori posibile, cum este cel amintit mai sus sau
ntr-o densitate de probabilitate. De exemplu, putem sti c a este o tensiune
produs a de un generator ce poate da valori ntre 0 si 5 volt i sau c a provine
dintr-o densitate de probabilitate gaussian a de medie 0V si dispersie 0.1 V.
Aceste cunostint e sunt str anse n asa numita densitate de probabilitate a
priori: w

().

In mod natural dorim s a combin am toate informat iile pentru a obt ine o
valoare c at mai exacta a parametrului investigat. Dac a recapitul am, sunt
disponibile masur atori (considerate a la momentul curent), un model de
degradare a semnalului si informat ii a priori despre valorile posibile ale
parametrului. In acest moment putem face un calcul post-factum al es-
timatului (o estimare a posteriori). Vom spune c a cea mai bun a valoare a
parametrului este cea care maximizeaz a densitatea de probabilitate a poste-
riori, w(|r) (adic a densitatea ce presupune cunoscute, cum de altfel si sunt,
masur atorile si variaz a valoarea estimatului). Formula lui Bayes permite o
expandare a densit at ii de probabilitate a posteriori:
w(|r) =
w(r|)w

()
w(r)
(7.4)
Dup a cum se observ a termenii care contribuie la dezvoltarea densit at ii de
probabilitate a posteriori sunt plauzibilitatea si densitatea de probabilitate
3
Estimatul de maxima verosimilitate (plauzibilitate) este acea valoare a parametrului
care maximizeaza sansa ca la masuratori sa rezulte setul de valori r = [r
1
, r
2
, . . . , r
N
].
89
LUCRAREA 7. ESTIMAREA PARAMETRILOR
a priori. Valoarea parametrului ce maximizeaz a densitatea de probabilitate
a posteriori este estimatul maxim a posteriori:

= arg max

w(|r) = arg max

w(r|)w

()
w(r)
(7.5)
Fiindca se doreste maximizarea unor densit at i de probabilitate, care,
pe lang a faptul c a au de multe ori valori foarte mici, provin de obicei din
funct ii de tip exponent ial, si pentru a se simplica produsul, se logaritmeaz a
densitatea de probabilitate a posteriori.

In acest caz estimatul maxim a
posteriori se obt ine ca solut ie a ecuat iei:

ln w(r|) +
d
d
ln w

() = 0 (7.6)
Densitatea de probabilitate w(r) este o m asur a a valorilor obt inute si este
folosita pentru a norma densitatea de probabilitate a posteriori. Ea este
complet determinat a, dat ind c a valorile sunt deja m asurate si, mai ales nu
este funct ie de parametrul c autat.
S a consideram urm atorul exemplu , preluat din [10]: M asurarea unei
tensiuni constante, distribuit a gaussian n jurul valorii de 11 V , cu variant a
1 V
2
, se face prin 4 m asur atori cu un aparat de m asur a afectat de erori
gaussiene de medie nul a si variant a 0, 1 V
2
. Valorile m asurate ale tensiunii
sunt r
1
= 9, 1 V , r
2
= 10, 5 V , r
3
= 11, 2 V r
4
= 10, 2 V . Determinat i
estimatul maxim a posteriori al tensiunii.
Suntem n urm atoarele condit ii init iale: semnalul de interes este identic cu
parametrul de informat ie; acestuia i se adaug a eroarea de m asur a care per-
turb a valoarea exacta. Atunci putem rescrie ecuat ia (7.1) pentru un semnal
esantionat ca ind:
r
i
= + n
i
, i = 1, 2, 3, 4. (7.7)
Vectorul de masur atori este suma unui vector constant, si a unui vector
de realiz ari particulare ale unei variabile aleatoare gaussiene (zgomotul la
momentul respectiv). Deci, un esantion de observat ie, presupun and c a s-a
transmis , este distribuit gaussian de medie si dispersie egal a cu cea a
zgomotului conform relat iei:
w(r
i
|) = w( + n
i
|) = w
n
(r
i
) =
1
_
2
2
n
exp
_

(r
i
)
2
2
2
n
_
(7.8)
In ipoteza am amintit independent a esantioanelor de zgomot; rezult a independent a
esantioanelor vectorului m asurat.

In acest caz, probabilitatea de aparit ie a
unui vector de masur a, dat ind o valoare a lui , este indicat a de plauzibil-
itate:
w(r|) =
N

i=1
w(r
i
|) =
1
_
_
2
2
n
_
N
exp
_

i=1
(r
i
)
2
2
2
n
_
(7.9)
Densitatea de probabilitate a priori este o m asur a a probabilit at ii ca tensi-
unea de interes s a ia anumite valori :
w

() = N(0,
2

) =
1
_
2
2

exp
_

( )
2
2
2

_
(7.10)
90
7.1. Estimarea parametrilor n cazul discret
unde = 11V este media lui w

().
Acum avem toate datele necesare pentru a calcula
map
conform relat iei
7.6:
0 =

ln w(r|) +
d
d
ln w

() =
=

ln
_
_
_
1
_
_
2
2
n
_
N
exp
_

i=1
(r
i
)
2
2
2
n
_
_
_
_
+
+

ln
_
_
1
_
2
2

exp
_

( )
2
2
2

_
_
_
=
=
1
2
2
n
N

i=1
2(r
i
)
1
2
2

2( )
(7.11)
T inand cont c a vectorul de observat ie are N elemente si efectu and pre-
lucr ari asupra relat iei precedente, se obt ine estimatul maxim a posteriori ca
ind:

map
=

N
i=1
r
i

2
n

+ N
+

2
n
N + 1
(7.12)
Adic a
map
= 10.268.
Expresia estimatului este o combinat ie liniar a a sumei (mediei) m asur atorilor
discrete si a mediei init iale; ponderile termenilor ce se combin a sunt date de
variant a zgomotului respectiv a parametrului din densitatea de probabilitate
a priori. Adic a este o combinat ie ntre m asur atori si informat iile a priori,
ponderate de ncrederea n ecare dintre ele
4
. Se poate face urm atoarea
discut ie n funct ie de valorile dispersiilor parametrului, respectiv a zgomo-
tului:
Dac a variant a zgomotului este mult mai mare dec at a parametrului
(
2
n

2

), estimatul maxim a a posteriori devine:

map
=
m
Adic a, dac a masuratoarea este foarte zgomotoas a (sau modelul este
destul de ambiguu) atunci valoarea optim a a estimatului a posteriori
este data de media densit at ii de probabilitate a priori (adic a ne vom
baza pe informat iile avute nainte de a ncepe m asur atoarea si mai
put in pe ce a am n cursul experimentului).
Dac a variant a zgomotului este mic a comparativ cu a parametrului
(
2
n

2

), estimatul maxim a a posteriori devine:

map
=

N
i=1
r
i
N
4
Daca ne referim la o variabila aleatoare cu dispersie mica, nseamna ca vor exista
put ine valori care pot rezulta ca realizari particulare, deci vom avea ncredere n ea. Pe
de alta parte, daca ne referim la o variabila aleatoare cu dispersie mare, nu prea stim cum
vor realizarile ei particulare, deci vom avea put ina ncredere n ea.
91
LUCRAREA 7. ESTIMAREA PARAMETRILOR
Adic a, dac a masuratoarea este de ncredere atunci estimatul a poste-
riori este media m asur atorilor.
7.1.2 Estimatul patratic
Dac a se alege o funct ie de cost p atratic a, cum ar :
C() = C
p
() =
2
(7.13)
se va determina estimatul p atratic

p
. Acesta este dat de relat ia:

p
=

w(|r)d =

w(r|)w

()
w(r)
d (7.14)
Estimatul p atratic este media densit at ii de probabilitate a posteriori. Dac a,
aceasta are drept abscis a a punctului de maxim global media (cum se obt ine,
de pilda, n cazul gaussienei), atunci estimatul p atratic coincide cu estimatul
maxim a posteriori. Dac a ipoteza maximului n medie nu este adev arat a
(cum este cazul unei densit at i de probabilitate de tip exponent ial), atunci
cei doi estimat i difer a (vezi gura 7.1).
0 0.5 1 1.5 2
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
(a)
0 0.5 1 1.5 2
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
(b)
maximul densitatii
de probabilitate
media
maximul densitatii
de probabilitate
media
Figura 7.1: Estimatul maxim a posteriori si estimatul p atratic pentru
o densitate de probabilitate a posteriori de tip gaussian (a) si respectiv
exponent ial (b).
92
7.2. Desf asurarea lucr arii
7.2 Desfasurarea lucrarii
1. S a se analizeze grac exemplul prezentat: M asurarea unei tensiuni
constante, distribuit a gaussian n jurul valorii de 11 V , cu variant a
1 V
2
, se face prin 4 m asur atori cu un aparat de m asur a afectat de
erori gaussiene de medie nul a si variant a 0, 1 V
2
. Valorile m asurate
ale tensiunii sunt r
1
= 9, 1 V , r
2
= 10, 5 V , r
3
= 11, 2 V r
4
= 10, 2 V .
Rezolvare: Vomncepe prin a considera o singur a m asur atoare: r
1
=
9, 1. In acest caz plauzibilitatea este:
w(r
1
|) =w(( + n
1
)|) = w
n
(r
1
) =
1
_
2
2
n
exp
_

(r
1
)
2
2
2
n
_
=
=
1

20.1
exp
_

(9.1 )
2
2 0.1
_
Un prim estimat al parametrului ar estimatul de maxim a plauzibil-
itate. Pentru a-l c auta putem proceda astfel:
close all; clear all;
sn2 = 0.1; % variant a zgomotului
th med = 11; sth2 = 1; % media si variant a parametrului
r = [9.1 10.5 11.2 10.2]; %vectorul de obsevat ii
N = length(r); % num arul de observat ii
estmp = 7 : 0.01 : 14; %domeniul ^n care caut valori
%plauzibilitatea
wR1Th = 1 / (sqrt(2*pi*sn2)) .* exp(-((r(1)-estmp).^2). ...
/(2*sn2));
[val, pos] = max(wR1Th);
fprintf(Estimat de max verosimilitate pentru r=r1 este
theta=% f ,estmp(pos));
s = sprintf(plauzibilitatea pentru r=r1);
subplot(2,2,1); plot(estmp, wR1Th, .k);
title(s); grid on;

In mod evident, estimatul de maxim a plauzibiliate este chiar valoarea


masurat a. Dac a se vor considera mai multe m asur atori [r
1
, r
2
, r
3
, r
4
],
atunci verosimilitatea devine:
w(r|) = w( +n|) =
1
(
_
2
2
n
)
N
exp
_
4

i=1

(r
i
)
2
2
2
n
_
=
=
1
(

20.1)
4
exp
_

(9.1 )
2
0.2

(10.5 )
2
0.2

(11.2 )
2
0.2

(10.2 )
2
0.2
_
Codul pentru a vizualiza aceasta densitate de probabilitate, paramet-
ric a de parametru , n funct ie de valorile posibile ale estimatului, este:
93
LUCRAREA 7. ESTIMAREA PARAMETRILOR
for i= 1 : length(estmp)
rTh = sum( (r-estmp(i)) .* (r-estmp(i)) );
w r th(i) = 1/(sqrt(2*pi*sn2)^ 4) .* exp(-rTh/(2*sn2));
end% for
[val, pos] = max(w r th);
fprintf(Estimatul de maxima plauzibilitate pentru 4 mas este
...
theta=% 3.3f ,estmp(pos));
fprintf(Media masuratorilor este m=% 3.3f,mean(r));
subplot(2,2,2); plot(estmp, w r th, .r);
s = sprintf( plauzibilitatea );
title(s); grid on;
Dac a se consider a numai informat ia a priori, atunci densitatea de pro-
babilitate a lui este:
w

() =
1
_
2
2

exp
_

( )
2
2
2

_
=
1

2 1
exp
_

( 11)
2
2 1
_
Valoarea maxim a este ns asi media:
w th = 1/(sqrt(2*pi*sth2)) .* exp(-( (estmp - th med).^2) /(2*sth2));
[val, pos] = max(w th);
fprintf(Valoarea presupusa initial este theta=% 3.3f ,estmp(pos));
subplot(2,2,3); plot(estmp, w th,.b);
s = sprintf(Densitatea de probabilitate a priori );
title(s); grid on;
Dac a cele 4 masur atori sunt puse mpreun a cu informat iile a priori,
atunci valorea parametrului este dat a de estimatul maxim a posteriori.
Plecand de la 7.4, logaritm and si nlocuind cu datele problemei noastre
rezult a:
ln w(|r) = ln(const)
4

i=1
(r
i
)
2
2
2
n

( )
2
2
2

Valoarea maxim a a acestei funct ii este valoarea cautat a; formula analitic a


a ei este data de relat ia 7.12:

map
=

N
i=1
r
i

2
n

+ N
+

2
n
N + 1
=
9.1 + 10.5 + 11.2 + 10.2
0.1
1
+ 4
+
11
1
0.1
4 + 1
Pentru a c auta n mod exhaustiv valoarea parametrului sau a o calcula
direct putem scrie:
thMAP = sum(r) / (sn2/sth2+N) + th med/((sth2/sn2)*N+1);
94
7.2. Desf asurarea lucr arii
fprintf(valoarea calculata a estimatului maxim a posteriori
este...
% 3.3f ,thMAP);
for i = 1 : length(estmp)
rTh = sum( (r-estmp(i)) .* (r-estmp(i)) );
w map(i) = (-rTh/(2*sn2) -( (estmp(i)-th med).^ 2) / (2*sth2));
end
[val, pos] = max(w map);
fprintf(Valoarea estimatului maxim a posteriori este...
theta=% 3.3f ,estmp(pos));
subplot(2,2,4); plot(estmp, w map,.k);
s = sprintf(Densitatea de probabilitate a posteriori);
title(s); grid on;
Rezultatul grac al secvent elor de cod prezentate este asat n gura
7.2. Tema: Cum se modic a valoarea parametrului pe m asur a ce se
6 8 10 12 14
plauzibilitatea pentru r=r1
6 8 10 12 14
Plauzibilitatea
6 8 10 12 14
Densitatea de probabilitate a priori
6 8 10 12 14
Densitatea de probabilitate a posteriori
Figura 7.2: Exercitiul 1: Formele funct iei de plauzibilitate (pentru o
masur atoare (a), respectiv 4 (b)) n funct ie de variabila , densit at ii de
probabilitate a priori (c) respectiv a posteriori (d).
adaug a informa-t ii noi? Se vor varia cele dou a dispersii considerate.
Se vor creste/sc adea num arul de m asur atori, inclusiv prin introduc-
erea de date complet eronate? Cum variaz a n aceste cazuri valorile
estimat ilor?
2. S a se reia cerint ele din exercit iul precedent pentru problema (preluat a
din [10]): Viteza unui avion este m asurat a cu un radar de sol. Eror-
ile de citire ale vitezei sunt gaussiene, de medie nul a si variant a 1000
Km/h. Viteza avionului variaz a gaussian n jurul valorii nominale
de 1000 Km/h, cu variant a de 1000 Km/h. Se fac cinci citiri inde-
95
LUCRAREA 7. ESTIMAREA PARAMETRILOR
pendente ale vitezei, rezult and observat iile v
1
= 980 Km/h, v
2
= 550
Km/h, v
3
= 1100 Km/h, v
4
= 1050 Km/h si v
5
= 760 Km/h. S a se
ae estimatul maxim a posteriori al vitezei. Comparat i precizia aces-
tui estimat cu precizia estimatului obt inut prin medierea aritmetic a a
observat iilor.
3. Dac a nu sunt disponibile multe informat ii a priori despre parametrul
de interes, atunci este natural s a se ia decizia pe baza m asur atorilor,
adica se caut a estimatul de maxim a plauzibilitate. Se poate proceda si
altfel: se modeleaz a densitatea de probabilitate a priori ca o distribut ie
uniform a de medie 0 si dispersie c at mai mare cu putint a
5
; se cal-
culeaz a densitatea de probabilitate a posteriori; prin derivare densi-
tatea de probabilitate a priori este eliminat a, iar estimatul maxim a
posteriori este egal cu estimatul de maxim a paluzibilitate.
S a se implementeze acest caz folosind datele de la exercit iul 1 cu
diferent a c a valoarea asteptat a a tensiunii poate oric at n intervalul
[8,12] (n loc de a proveni dintr-o gaussian a).
4. Se considera problema de la exercit iul 1 cu modicarea c a valoarea
tensiunii masurate provine din distribut ia (de tip exponent ial cu =
2):
w() =
_
1
2
exp
_

0
2
_
, pentru >
0
0 n rest
unde
0
=9.
Rezolvare:

In acest caz, forma logaritmic a a densit at ii de proba-
bilitate a posteriori este:
ln w(|r) = ln(const)
4

i=1
(r
i
)
2
2
2
n
(
0
)
Iar estimatul maxim a posteriori este:

map
=
2
2
n
N
_
+
1

2
n
N

i=1
r
i
_
=
2
2
n
N
2

+
1
N
N

i=1
r
i
(7.15)
unde s-a folosit faptul c a variant a unei densit at i de probabilitate de
tip exponent ial este
2

=
1

. Valoarea obt inut a este 10.275.


Atunci, secvent a de cod pentru calculul densit at ii de probabilitate a
priori respectiv a posteriori poate :
th0 = 9; lambda = 1/2;
5
O densitate de probabilitate uniforma, de dispersie mare este denumita de multe ori
distribut ie non-infomativa. Explicat ia este sugerata de faptul ca nici o valoare nu este
mai probabila. Deci examinand densitatea de probabilitate, nu putem spune nimic n
plus despre sansele ca anumite valori sa apara, decat ceea ce se stia: toate sunt la fel de
probabile.
96
7.2. Desf asurarea lucr arii
w th = zeros(size(estmp));
w th(estmp >= th0) = lambda * exp(-lambda*...
(estmp(estmp>=th0)-th0));
for i = 1 : length(estmp)
if estmp(i)<9
rTh = sum( (r-estmp(i)) .* (r-estmp(i)) );
w map(i) = -rTh/(2*sn2) ;
else
rTh = sum( (r-estmp(i)) .* (r-estmp(i)));
w map(i) = -rTh/(2*sn2) - lambda*(estmp(i)-th0);
end
end
Rezultatul grac este cel asat n gura 7.3.
6 8 10 12 14
plauzibilitatea pentru r=r1
6 8 10 12 14
Plauzibilitatea
6 8 10 12 14
Densitatea de probabilitate a priori
6 8 10 12 14
Densitatea de probabilitate a posteriori
Figura 7.3: Exercitiul 4: Formele funct iei de plauzibilitate (pentru o
masur atoare (a), respectiv 4 (b)) n funct ie de variabila , densitat ii de
probabilitate a priori de tip exponential (c) respectiv a posteriori (d)
5. Cazul studiat se modic a astfel nc at zgomotul m asur atorii va avea
medie 1. Cum se modic a rezultatele obt inute?
6. Fie semnalul s(t, ) = sin(t), unde t [0, ]. Semnalul este transmis
pe un canal afectat de zgomot aditiv de tip gaussian de medie 0 si
dispersie 1. Esantioanele zgomotului, la oricare 2 momente de timp
considerate, sunt independente. Pentru estimarea valorii parametru-
lui se foloseste estimatul de maxim a plauzibilitate. Se va xa valoarea
parametrului ntr-un punct (de exemplu: = 2). Se vor xa N mo-
97
LUCRAREA 7. ESTIMAREA PARAMETRILOR
mente de timp. La ecare moment de timp se vor genera posibile valori
ale semnalului recept ionat. Se va studia variat ia valorii estimate com-
parativ cu cea prexat a odat a cu variat ia num arului de esantioane.
Rezolvare:

In cazul prezentat, semnalul recept ionat este de forma:
r(t) = sin(t) + n(t)
Un esantion al semnalului recept ionat, obt inut la momentul t = t
i
,
este:
r(t
i
) = sin(t
i
) + n(t
i
)
Zgomotul, la orice moment de timp provine dintr-o distribut ie gaus-
sian a de medie 0 si variant a
2
n
= 1.

In acest caz, un esantion al
semnalului recept ionat este distribuit conform:
w(r(t
i
)|) = N(s(t
i
),
2
n
)
Plauzibilitatea unui set de valori m asurate este:
w(r|) =
N

i=1
N(s(t
i
),
2
n
) =
1
(
_
(2
2
n
))
N
exp
_

i=1
(r
i
sin(t
i
))
2
2
2
n
_
Estimatul de maxim a verosimilitate este:

mv
=

N
i=1
r
i

N
i=1
sin(t
i
)
Codul Matlab necesar poate :
N = 5;
t= pi/N : pi/N : pi; %momentele de timp
theta = 2; %valoare transmis a a parametrului
s = theta * sin(t); %semnal transmis
n = randn(1,N); %zgomot
r = s + n;
theta mv = sum(r) / sum(sin(t));
figure; plot(t,s,:k); hold on;
hold on; plot(t,r); plot(t,r,.r);
text = sprintf(Valoare transmis theta=% 3.3f....
Valoare calculata theta mv=% 3.3f,theta,theta mv);
title(text);
Tema: Ce se nt ampl a dac a intervalul este [0, 2], iar momentele de
timp sunt considerate la distant e egale?
98
7.3. Exercit ii si teme propuse
7.3 Exercit ii si teme propuse
1. Care va estimatul maxim a posteriori dac a at at densitatea de proba-
bilitate a priori c at si zgomotul provin din densit at i de probabilitate
uniforme?
2.

In cazul unui experiment densitatea de probabilitate a priori este o
densitate uniform a n [A,B], iar estimatul maxim a posteriori calculat
este n afara acestui interval. Se poate ntampla asa ceva? De ce?
99
LUCRAREA 7. ESTIMAREA PARAMETRILOR
100
Lucrarea 8
Modele stochastice
Dac a n lucr arile precedente am fost preocupat i de studiul semnalelor con-
tinue si numai mediul de lucru ne-a obligat s a proiect am obiectele matem-
atice ntr-un spat iu discret, de aici nainte ne vom preocupa de semnale
discrete. Operat ia prin care se obt ine un semnal discret dintr-unul con-
tinuu este esantionarea. Teorema esantion arii [4] arat a c a pentru a putea
reface complet semnalul continuu din secvent a discret a asociat a este nece-
sar ca frecvent a de esantionare s a e cel put in de dou a ori mai mare dec at
frecvent a maxim a a semnalului continuu. De fapt, secvent ele discrete, pre-
cum si not iunea de frecvent a, au fost discutate n lucrarea 4.
Un semnal aleator discret se obt ine prin esantionarea unui semnal aleator
continuu. Se pot genera si n mod direct semnale aleatoare discrete. Ipotezele
pe baza c arora se obt ine un semnal aleator formeaz a asa numitul model
stochastic al semnalului.
Fie semnalul aleator discret :
(n) = [(0), (0), . . . , (N)]
T
Similar cu scrierea prescurtat a a semnalelor continue, si n cazul sem-
nalelor aleatoare discrete se presupune implicit existent a variabilei ce marcheaz a
realizarea particular a. Astfel, la ecare moment discret de timp se poate
vorbi despre o statistic a de ordinul 1 a semnalului (densitate de probabili-
tate, funct ie de repartit ie, etc) sau, dac a se considera mai multe momente de
timp, se va vorbi despre statistici de ordin superior. De interes sunt numai
semnalele stat ionare. Parametri statistici des folosit i sunt:
media semnalului: (n) =
variant a semnalului:
2
((n)) =
2

matricea de autocorelat ie:


R

=
T
(8.1)
O observat ie important a este: matricea de autocorelat ie a unui semnal
aleator este p atrat a si, ind semipozitiv denit a, este inversabil a.
Dintre mult imea de modele stochastice existente, de interes sunt cele
liniare. Principiul de baz a al modelelor stochastice arat a c a printr-o ltrare
101
LUCRAREA 8. MODELE STOCHASTICE
cu un ltru cu coecient i potrivit alesi se poate obt ine din zgomot alb un
semnal aleator cu propriet at i statistice dorite. Schema unui model stochastic
liniar poate vazut n gura 8.1.
(n)
(n)
Figura 8.1: Modelul stochastic liniar.
8.1 Modelul MA
Modelul MA
1
presupune calculul esantionului curent de la iesire pe baza
medierii ponderate a M+1 esantioane ale semnalului de la intrare. Dac a
notam cu (n) semnalul de la iesirea ltrului si cu (n) semnalul de la
intrarea sa atunci modelul MA va dat de:
(n) = b
0
(n) + b
1
(n 1) + b
2
(n 2) + . . . + b
M
(n M) (8.2)
Modelul MA are marele avantaj al usurint ei implement arii. De multe
ori, pe acest model const a prima ncercare de a rezolva o problem a nou a ce
implic a semnale aleatoare discrete.
Un exemplu n care modelul MA este util este reducerea zgomotului. Se
stie c a dac a un zgomot alb este trecut printr-un ltru de band a limitat a,
atunci n semnalul de la iesire va ap area o corelat ie cu at at mai puternic a cu
c at banda de trecere a ltrului este mai ngust a, si, n consecint a o reducere a
puterii zgomotului (vezi lucrarea 5 - despre semnale aleatoare si [1]). Ecuat ia
8.4 prezint a convolut ia ntre coecient ii ltrului si semnalul de la intrare.
Se stie c a un ltru trece jos ideal are drept funct ie de transfer o funct ie de
tip sinus cardinal (sinc). Dac a discretiz am aceast a funct ie de tranfer, de
exemplu n 11 puncte, atunci putem obt ine setul de coecient i ai modelului
MA (vezi 8.2):
b
0...10
= {3.9 10
17
, 0.19, 0.15, 0.23, 0.76, 1, 0.76,
0.23, 0.15, 0.19, 3.9 10
17
}
O simplicare a modelului se obt ine dac a se consider a tot i coecient i
egali, caz n care coecientul curent al semnalului de la iesire este media
aritmetica a ultimelor M + 1 esantioane de la intrare:
(n) =
1
M
M

i=0
(n i) (8.3)
1
MA este acronimul pentru Moving Average ceea ce n traducere libera ar medie
alunecatoare.
102
8.2. Modelul auto-regresiv (AR)
1 2 3 4 5 6 7 8 9 10 11
0.2
0
0.2
0.4
0.6
0.8
1
1.2
Figura 8.2: Discretizarea FTJ permite implementarea ltr ari trece-jos n
timp discret.
8.2 Modelul auto-regresiv (AR)
Ecuat ia de baz a a modelului auto-regresiv este:
(n) + a
1
(n 1) + a
2
(n 2) + . . . a
M
(n M) = (n) (8.4)
Aceast a ecuat ie indic a faptul c a esantionul curent al semnalului de la iesire,
(n), este funct ie de esantionul curent al semnalului de la iesire, (n), precum
si de M esantioane anterioare ale semnalului de la iesire.
Dintre modelele stochastice liniare uzuale, acesta este singurul pentru
care se poate determina o expresie analitic a a coecient ilor. Aceast a solut ie
se poate calcula prin rezolvarea ecuat iilor Yule-Walker. Pentru a le obt ine, se
nmult este relat ia 8.4 cu (ni) si se t ine cont de independent a esantioanelor
de zgomot (vezi [1] pentru mai multe detalii):
R

(i) + a
1
R

(i 1) + a
2
R

(i 2) + + a
M
R

(i M) = 0
, pentru i=1,2,3. . .
(8.5)
unde R

reprezint a funct ia de autocorelat ie a semnalului de la iesire. Solut ia


sistemului de ecuat ii Yule-Walker se obt ine dac a se scrie relat ia de mai sus
pentru i = 1, 2, . . . M. Sub form a matriceal a sistemul este:
_

_
R

(0) R

(1) R

(M 1)
R

(1) R

(0) R

(M 2)
R

(2) R

(1) R

(M 3)
.
.
.
.
.
.
.
.
.
.
.
.
R

(M 1) R

(M 2) R

(0)
_

_
_

_
a
1
a
2
a
3
.
.
.
a
M
_

_
=
_

_
R

(1)
R

(2)
R

(3)
.
.
.
R

(M)
_

_
(8.6)
Setul de coecient i se obt ine prin nmult irea la st anga a termenului din
dreapta, notat r

, cu inversa matricei de autocorelat ie:


a = R
1

(8.7)
Acest rezultat arat a c a pornind de la un zgomot alb (adic a de la un sem-
nal aleator perfect decorelat), prin alegerea potrivit a a coecient ilor ltrului,
se poate obt ine la iesire un semnal aleator cu o corelat ie impus a.
103
LUCRAREA 8. MODELE STOCHASTICE
8.3 Desfasurarea lucrarii
1. Modelul MA. Se consider a un semnal afectat de zgomot alb. Se va
trece acest semnal printr-un ltru de tip MA si se va urm ari modi-
carea rezultatului n funct ie de coecient ii ltrului.
Rezolvare: Vom considera semnalul de la intrare y(t) = sin(t) +
n(t), unde n(t) este zgomot alb provenind dintr-o distribut ie Gaus-
sian a
2
. Pentru implemetarea ltrului vom considera diferite variante.
S a ncepem cu ltrul trece jos prezentat n expunerea teoretic a. In
acest caz, codul Matlab este:
close all;
t=0 : 0.1 : 3*pi;
n=0.2 * randn(size(t));
x=sin(t) + n;
%MA coef
b=[-3.92e-017;-0.19;-0.15;0.23;0.76;1;0.76;...
0.23;-0.15;-0.19;-3.9e-017];
b=b ./ sum(b); %pentru conservarea energiei semnalului
Lb=length(b);
for i = 1 : length(t)
if i<= Lb
y(i) = 0;
else
y(i) = sum(x(i-Lb+1:i) .* b);
end
end
plot(t, sin(t), r); hold on;
plot(t ,x); hold on;
plot(t, y, k); hold on;
Un rezultat posibil se poate vedea n gura 8.3 (a). Se poate ob-
serva c a se reduce zgomotul, dar si c a apare o nt arziere n semnalul
raspuns datorat a faptului c a, mai cur and, putem privi modelul MA
ca pe unul necauzal, n care se asteapt a c ateva esantioane pentru a se
procesa valoarea curent a.

In continuare, vom implementa modelul MA simplicat. Vom xa


lungimea ltrului la M = 7. In acest caz codul necesar declar arii
coecient ilor ltrului este:
M=7; b2=ones(M+1,1) / (M+1);
Rezultatul se poate vedea n gura 8.3 (b).
2
Acest exemplu cont ine o modicare de la situat ia generala expusan breviarul teoretic,
unde la intrare se prezenta numai zgomot alb.
104
8.3. Desf asurarea lucr arii
0 2 4 6 8 10
1.5
1
0.5
0
0.5
1
1.5
(a)
0 2 4 6 8 10
1.5
1
0.5
0
0.5
1
1.5
(b)
Figura 8.3: Aplicarea unui ltru trece jos sub forma unei ecuat ii de tip MA
cu coecient i a)diferit i, respectiv b)egali. Cu linie punctat a este reprezentat
semnalul original, n timp ce cu linie continu a este reprezentat semnalul
obt inut prin mediere ponderat a din semnalul zgomotos reprezentat cu linie
ntrerupt a.
Tema: Sa se varieze puterea zgomotului si respectiv num arul coecient ilor
ltrului. Sa se urm areasc a efectul acestor operat ii asupra semnalului de la
iesire
2. S a se implementeze, folosind modelul MA un ltru trece sus.
Rezolvare: Filtrul trece sus are proprietatea c a favorizeaz a trecerea
frecvent e-lor nalte si atenuaz a frecvent ele joase. Dup a cum s-a mai
discutat, frecvent ele nalte presupun variat ii bruste. Variat iile bruste
sunt echivalente, local, cu o valoare mare a derivatei. Dat ind c a
ne referim la un spat iu de lucru discret, derivata poate calculat a ca
o diferent a nit a (vezi lucrarea 1).

In concluzie putem implementa
un ltru trece sus, care amplic a variat iile bruste, dac a adun am la
valoarea esantionului curent diferent a fat a de esantioanele precedente.
De exemplu ltrul MA av and coecient ii:
b
0:4
= [0.1; 0.25; 1.7; 0.25; 0.1]
aplicat semnalulul de la exercit iul 1 va amplica variat iile bruste ale
zgomotului (numai zgomotul are componente pe frecvent enalte), dup a
cum se poate vedea si n gura 8.4.
3. Implementarea rapid a a modelului MA simplicat. Dup a cum se arat a
n [9] se poate construi o variant a rapid a de implementare bazat a pe
recurent a. Primul pas const an a observa ce termeni contribuie la dou a
esantioane consecutive ale semnalului de la iesire. S a presupunem c a
M = 4. In acest caz dou a esantioane consecutive ale semnalului de la
105
LUCRAREA 8. MODELE STOCHASTICE
0 1 2 3 4 5 6 7 8 9 10
4
3
2
1
0
1
2
3
4
Figura 8.4: Filtrare trece-sus. Semnalul original este reprezentat cu linie
ntrerupt a, semnalul zgomotos cu linie punctat a si rezultatul ltr arii cu linie
continu a. Observat i c a zgomotul este amplicat.
iesire, s a zicem (30) si (31), se obt in prin explicitarea ecuat iei 8.3:
(30) =
1
5
((30) + (29) + (28) + (27) + (26))
(31) =
1
5
((31) + (30) + (29) + (28) + (27))
Adic a cei mai mult i termeni care contribuie la un esantion al sem-
nalului de la iesire au contribuit si la esantionul precedent. Putem
scrie:
(31) = (30) +
1
5
(31)
1
5
(27)
Sau, la modul general, dac a rescriem ecuat ia 8.3 se obt ine:
_
(n + 1) = (n) +
1
M+1
(n + 1)
1
M+1
(n M) , n = M, M + 1,
(M) =
1
M+1

M
i=0
(i)
(8.8)
Secvent a Matlab care implementeaz a aceast a variant a (aplicat a sem-
nalului de la exercit iul precedent) este:
y = zeros(size(x));
M = 7;
for i = 1 : length(x)
if i<M+1
y(i) = 0;
elseif i==M
y(i) = (1/(M+1)) * sum(x(1:i));
else
y(i) = y(i-1)+(1/(M+1)) * (x(i)-x(i-M));
end
106
8.3. Desf asurarea lucr arii
end
Aceast a implementare nu este foarte ecient a ntr-un mediu de lucru
ca Matlabul, unde operat iile matriceale sunt optimizate, spre deose-
bire de secvent ele de calcul scrise n clar. Dar este evident c a, pentru
tot i termenii cu except ia primului, n loc s a se adune M termeni (si,
uneori M poate destul de mare) se sumeaz a doar trei.
4. Modelul AR. Fiind disponibile N esantioane ale unui semnal aleator
de tip zgomot alb provenind dintr-o distribit ie Gaussian a, se doreste
s a se obt ina esantione ale unui semnal cu funct ie de corelat ie impus a.
Rezolvare:
Solut ia evident a este s a se calculeze coecient ii ltrului AR pe baza
ecuat iilor Yule-Walker. Codul Matlab este:
close all; clear; clc;
%init ializam vectorul de autocorelatie cu forma dorit a
R xi = 1 : -0.1 : 0;
%convent ie: R xi(1) este coef de autocorelatie R xi(0)
M = length(R xi)-1;
r = R xi(2:end)
R = zeros(M,M);
temp = [R xi(end:-1:2) R xi];
for i = 1 : M
R(i,:) = temp(M-i+2 : M-i+M+1);
end
a = -inv(R) * r;
%gener am un vector de lungime N de e santioane de zgomot alb
% provenind dintr-o distribut ie Gaussian a
N = 200;
n = randn(1,N); y = n;
for i = 1 : N
if i>M
y(i) = y(i) + sum(a* y(i-1:-1:i-M));
end
end
figure; subplot(3,1,1);
stem(R xi); grid on; title(Vectorul de autocorelatie impus);
subplot(3,1,2);
plot(n); grid on; title(Esantioanele de zgomot);
subplot(3,1,3);
plot(y); grid on; title(Semnalul rezultant);
Funct ia de autocorelat ie impus a precum si semnalul rezultant pot
vazute n gura 8.5. In gura 8.6 este prezentat un alt exemplu. Sem-
nalul obt inut la iesire este n continuare aleator.

In schimb se poate
observa c a semnalul nu mai cont ine tranzit ii foarte bruste, ci doar
107
LUCRAREA 8. MODELE STOCHASTICE
tranzit ii lente, adic a exist a corelat ie ntre esantioanele lui.
Tema: Sa se reprezinte doua c ate doua esantioanele semnalului de la iesire
1 2 3 4 5 6 7 8 9 10 11
0
0.5
1
Vectorul de autocorelatie impus
0 20 40 60 80 100 120 140 160 180 200
4
2
0
2
4
Esantioanele de zgomot
0 20 40 60 80 100 120 140 160 180 200
20
10
0
10
20
Semnalul rezultant
Figura 8.5: Exemplul 1. Modelul AR: funct ia de autocorelat ie impus a,
esantionele de zgomot si semnalul rezultant.
0 1 2 3 4 5 6 7 8 9 10
1
0.5
0
0.5
1
Vectorul de autocorelatie impus
0 20 40 60 80 100 120 140 160 180 200
4
2
0
2
4
Esantioanele de zgomot
0 20 40 60 80 100 120 140 160 180 200
10
5
0
5
Semnalul rezultant
Figura 8.6: Exemplul 2. Modelul AR: funct ia de autocorelat ie impus a,
esantionele de zgomot si semnalul rezultant.
si sa calculeze dreapta de regresie. Pe baza acesteia sa se estimeze corelat ia
semnalului. Sa se compare acest rezultat cu cel similar obt inut pentru zgo-
motul de la intrare. Vezi si gura 8.7.
Tema: Sa se analizeze spectrul semnalui de la intrare (al zgomotului alb)
comparativ cu cel al semnalului de la iesire. Cat de similar este acesta din
urm a cu densitatea spectrala de putere dorita (transformata Fourier a funct iei
de autocorelat ie).
Tema: Reluat i aceste calcule pentru alte modele de corelat ie si analizat i
rezultatul. Dac ancercat i acest exemplu pentru un vector de corelat ie provenind
108
8.3. Desf asurarea lucr arii
6 4 2 0 2 4 6
6
4
2
0
2
4
6
zgomot intrare
semnal corelatiesire
Figura 8.7: Corelat ia semnalului de la iesire comparativ cu cea a zgomotului
de la intrare pentru exemplul 2.
din funct ia cos vet i constata c a sistemul devine instabil. De ce?
Tema: Implementat i modelul ARMA, care este o combinat ie ntre modelele
MA si AR.
109
LUCRAREA 8. MODELE STOCHASTICE
8.4 Exercit ii si teme propuse
1. Cand este ltrul de tip MA stabil?
2. Demonstrat i c a prin folosirea modelului MA simplicat, aplicat unui
zgomot alb se reduce variant a zgomotului.
3. Utilizat i funct ia conv n implementarea modelului MA.
4. Implementat i modelul MA n frecvent a.
5. Cand este ltrul de tip AR stabil?
6. Implementat i modelul AR n frecvent a.
110
Lucrarea 9
Tranformate unitare.
Compresia semnalelor
9.1 Transformate unitare
Vomncepe aceast a lucrare prin a discuta not iunea de transformat a unitar a.

In locul unei denit ii matematice


1
, uneori destul de abstract a, vom prefera
s a spunem c atransformatele unitare sunt pur si simplu rotat ii generalizate.
Dup a cum s-a mai amintit n capitolele anterioare, o transformare accept a
drept intrare un element al unui spat iu si prezint a la iesire corespondentul
acelui element n alt spat iu. In cazul transformatelor unitare, cele dou a
spat ii prezint a o diferent a de faz a sau de rotat ie. In plus, spat iul de iesire
este ortogonal (are axele ortogonale). Un exemplu de asemenea transformare
poate vazut a n gura 9.1.
0
0.2
0.4
0.6
0.8
1
0
0.2
0.4
0.6
0.8
1
0
0.2
0.4
0.6
0.8
1
x
y
Figura 9.1: Exemplu de transformare unitar a ntre dou a spat ii tri-
dimensionale: Spat iul de intrare este cel cu cu axe punctate, iar spat iul
de iesire este cel cu axe continue (Spat iul XYZ). Vectorul de intrare, x este
tranformat n y.
S a formalizam not iunile. Dac a U este o matrice unitar a, atunci prin
1
Prin denit ie, o transformare unitara este un izomorsm ntre doua spat ii Hilbert.
Denit ia poate particularizata pentru matrici, caz n care aplicarea unei matrice unitare,
U unor vectori pastreaza produsul scalar: Ux, Uy = x, y.
111
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
denit ie:
U

U = UU

= I
n
(9.1)
Adic a inversa unei matrice unitare este conjugat transpusa sa (U
1
= U

=
(U
C
)
T
). Dac a ne restr angem la cazul real, atunci o matrice unitar a este o
matrice ortogonal a.
Propriet at ile matricelor unitare (ortogonale) includ:
1. Dac a U este unitar a, atunci si U
T
este unitar a;
2. Spat iul coloanelor matricei U este ortonormal. Dac a u
i
si u
j
sunt
dou a coloane ale matricei ortogonale U, cu i = j, atunci:
u
i
T
u
j
= 0
u
i
T
u
i
= 1
(9.2)
3. Spat iul liniilor este ortonormal;
4. Determinantul unei matrice unitare este de modul 1.
Exemple de matrice unitare sunt:
matricea unitate, I
2
:
_
1 0
0 1
_
;
matrice unitate rotit a cu 16.96 grade
_
0.96 0.28
0.28 0.96
_
;
matricea unitate cu axa x inversat a
_
1 0
0 1
_
;
matricea unitate cu axele inversate:
_
0 1
1 0
_
.
Un transformat (o proiect ie pe spat iul denit de coloanele matricei unitare)
a vectorului x se obt ine prin nmult irea lui la st anga cu o matrice unitar a:
y = Ux (9.3)
Matricele unitare pot avea form a (valori) variabil a (cum este cazul celor
folosite n transformarea Karhunen-Loeve) sau pot cu form a x a cum sunt
cele asociate transformatelelor cos si sin.
9.2 Transformata Karhunen-Loeve
Transformata Karhunen Loeve (KL)
2
este optimal a n sensul minimiz arii
erorii p atratice medii. Dar nainte de a dezbate sensul acestei armat ii s a
discut am motivarea unei asemenea transform ari.
2
Varianta discreta a tranformate Karhunen-Loeve - varinta expusa n lucrarea de fat a,
este de multe ori denumita Analiza pe Componente Principale.
112
9.2. Transformata Karhunen-Loeve
S a presupunem c a suntem interesat i de studiul unui set de date reprezen-
tate ntr-un spat iu bi-dimensional, cum ar cel din gura 9.2. Se nt ampl a,
de cele mai multe ori, ca cele dou a dimensiuni implicite s a nu e complet
decorelate.

In acest caz ne intreseaz a s a proiect am datele ntr-un spat iu n
care s a elimin am corelat ia existent a ntre axe, sau, mai realist, s a reducem
corelat ia. Sistemul propus n gur a are o ax a principal a de-a lungul c areia
se g aseste majoritatea informat iei si o ax a secundara cu informat ie put in a.
Alegerea axelor a speculat corelat ia existent a ntre cele dou a dimensiuni
init iale.
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0.2
0
0.2
0.4
0.6
0.8
1
1.2
Figura 9.2: Un set de date. Evident reprezentarea n sistemul de axe marcat
cu linie ntrerupt a este de preferat.
Pe baza noi reprezent ari, se pot dezvolta diferite aplicat ii printre care:
Compresia datelor. Putem reprezenta cu o precizie mai mare axa
principala si cu o precizie mai mic a axa secundar a sau, la limit a, putem
reprezenta datele ca ind unidimensionale.
Vizulizarea datelor multidimensionale. In mod evident nu suntem n
stare s a reprezent am grac spat ii 5dimensionale. Pentru vizualiz ari
de date suntem nevoit i s a le proiect amn spat ii 2, cel mult 3dimensionale.
Un asemenea exemplu este cel prezentat n gura 9.3. A treia (Z) di-
mensiune este aproape redundant a iar o proiect ie pe un plan aproape
paralel cu XOY (cum este cel propus n (a)) ar sucient a.
Transformata KL reprezint a o modalitate de a calcula transformarea
c atre noul spat iu. Relu am problema proiect iei:
y = Ux
Se doreste aarea matricei U astfel nc at x s a aib a o structur a clar a: valori
necorelate si ordonate dup a important a.
Pentru a calcula transformata KL a unui set de date reprezentat ca o
mult ime de M vectori coloan a N-dimensionali, X = {x
1
, x
2
, . . . , x
M
}, se
procedeaza astfel:
113
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
0
0.5
1
0
0.5
1
0
0.5
1
X
(a) Reprezentare XYZ
Y
z
0 0.2 0.4 0.6 0.8 1
0
0.2
0.4
0.6
0.8
1
(b) Proiectie XY
X
Y
0 0.2 0.4 0.6 0.8 1
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
(c) Proiectie XZ
X
Z
0 0.2 0.4 0.6 0.8 1
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
(d) Proiectie YZ
Y
Z
Figura 9.3: Un set de date. Dup a cum se poate vedea, variat iile de-a lungul
axei Z sunt mai put in semnicative dec at cele corespunz atoare axelor X si
Y. De fapt, ntreg setul de date se poate proiecta pe un plan (reprezentat n
(a) ) far a a pierde mult din informat ia cont inut a.
Se calculeaza matricea de autocovariat ie a datelor. De multe ori se
procedeaza nt ai la o centrare n jurul originii a datelor (egalizare cu
0 a mediei):
x

i
= x
i
x
i
In acest caz, matricea de autocovariat ie a datelor este egal a cu ma-
tricea de autocorelat ie:
K
x
= R
x
=
1
n
M

i=1
x

i
x

i
T
Se calculeaza vectorii (u
1
. . . u
N
) si valorile proprii (
1
. . .
n
) ale ma-
tricei de autocorelat ie.
Se ordoneaz a vectorii proprii dup a o succesiune descresc atoare a valo-
rilor proprii corespunz atoare:

{1}

{2}

{N}
Matricea unitar a care asigur a transformarea dorit a este:
U
KL
=
_
u
{1}
u
{2}
. . . u
{N}

Referitor la transformarea KL se pot face c ateva observat ii:


114
9.3. Transformata COS
Vectorii proprii ai oric arei matrice (inclusiv matricea obt inut a prin
transformarea KL) sunt ortogonali.
Valorile proprii reprezint a variant a datelor de intrare pe axa core-
spunz atoare vectorului propriu asociat. Ordonarea vectorilor proprii
dup a valorile asociate este echivalent a cu ordonarea lor dup a variant a
sau, considerand alt criteriu, dup a cantitatea de informat ie reprezen-
tat a.
Vectorul y
i
calculat ca ind transformatul lui x

i
prin formula y
i
=
Ux

i
cont ine aceeasi informat ie ca si vectorul init ial x
i
.
Dac a se doreste compresia prin transformata KL, atunci se pot p astra
numai primele N
0
< N componente ale lui y
i
, obt in andu-se y
0
i
3
.
Restul componentelor se nlocuiesc cu mediile lor (calculate pe setul
de date). Adic a:
y
i
= [y
i
(1), . . . , y
i
(n)]
T
y
0
i
=
_
_
y
i
(1), . . . , y
i
(n
0
),
1
M
M

j=1
y
j
(n
0
+ 1), . . . ,
1
M
M

j=1
y
j
(N)
_
_
T
y
0
i+1
=
_
_
y
i+1
(1), . . . , y
i+1
(n
0
),
1
M
M

j=1
y
j
(n
0
+ 1), . . . ,
1
M
M

j=1
y
j
(N)
_
_
T
Transformata KL este optimal an sensul c a minimizez a eroarea p atratic a
medie
2
:

2
=
1
M
M

i=1
(y
i
y
0
i
)
2
=
1
M
M

i=1
n

j=n
0
+1
(y
i
(j) y
0
i
(j))
2
Algoritmul de calcul brut al transformatei KL este destul de ridicat
ca si complexitate de calcul. Calculul vectorilor si valorilor proprii
ale unei matrice p atrate de dimensiune N N este O(N
3
). Dac a se
doreste, n schimb, calculul unei proiect ii numai pe N
0
axe atunci sunt
necesari numai N
0
vectori proprii, iar aarea lor necesit a operat ii n
ordinul lui O(NN
2
0
)
Dezavantajul major al transformatei KL este c a matricea U nu este
x a, ea ind diferit a de la un set de date la altul.
9.3 Transformata COS
Transformata COS este un caz particular de transformare unitar a cu ma-
tricea de transformare x a (independent a de setul de date). Se deneste
3
Primele N
o
componente se numesc componente principale. De aici provine numele
alternativ al transformatei KL de analiza pe componente principale.
115
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
transformata COS discret a a unei secvent e x de lungime N, ca ind:
y(k) = COS{x(i)} =
_

_
1

N
i=1
x(i) cos
(2i1)(k1)
2N
, pentru k=1

N
i=1
x(i) cos
(in1)(k1)
2N
, pentru k=2,3,. . . N
(9.4)
Matricea unitara asociat a transformarii COS este:
U = [u
ki
], unde
_

_
u
1i
=
1

N
u
ki
=

N
i=1
cos
(in1)(k1)
2N
(9.5)
Transformata COS admite o transformare invers a care permite refacerea
secvent ei init iale din secvent a transformat a. Aceasta se deneste ca ind:
x(i)(k) = ICOS{y(k)} =
_

N
i=1
1

N
y(k) cos
(2i1)(k1)
2N
, i=1

N
i=1

N
y(k) cos
(n1)(k1)
2N
, i=2,3,. . . N
(9.6)
Transformarea COS este foarte aproape (ca valori si rezultate) de trans-
formarea KL pentru procese caracterizate de un coecient de corelat ie mare
( > 0.9). Un asemenea proces are matricea de autocorelat ie de forma:
R
X
=
_

_
1 0 0 . . . 0
1 1 0 . . . 0
0 1 1 . . . 0
. . . . . . . . . . . . . . . . . .
0 0 0 0 . . .
_

_
Transformarea COS nu este partea real a a transform arii Fourier discrete
a unei secvent e. Totusi exist a o leg atur a ntre acestea dou a; transformata
COS este transformata Fourier a unei secvent e dublate si simetrizate:
COS{x} = F{x
t
} exp
_

(k 1)
2N
_
, unde
x
t
= [x(N), x(N 1), . . . , x(2), x(1), x(1), x(2), . . . , x(N 1), x(N)]
(9.7)
Aceast a leg atura permite o implementare rapid a a transformatei COS
folosindu-se transformata Fourier rapid a. Mai mult, datorit a acestei pro-
prietat i se poate conferi o interpretare valorilor obt inute n urma tran-
form arii COS; rezultatul are aceeasi semnicat ie de ponderare a unor anu-
mite frecvent e ca si n cazul transformatei Fourier.
Intre aplicat iile larg folosite ale transformatei COS se num ar a standardul
JPEG (ce are inclus o transformare COS 8 8 ), aplicat ii din domeniul
prelucr arii semnalelor vocale, etc.
116
9.4. Desfasurarea lucr arii
9.4 Desfasurarea lucrarii
1. Transformata KL. Se va considera un set de date tri-dimensional.
Alegerea lui va implica un grad mare de corelat ie ntre axele sale. Se va
folosi transformata KL pentru a-se calcula axele optime de proiect ie.
Se vor vizualiza grac setul initial de date, setul proiectat si axele de
coordonate rezultate n urma calculului transformatei KL.
Rezolvare: O posibil a implementare este:
close all; clear all; clc;
%construim un set de date 3D corelate
X = randn(100,1); %Gaussiana de medie 0
X(:,2) = 0.5 .* randn(100,1) + X(:,1);
X(:,3) = 0.7 .* X(:,1) + 0.3 * X(:,2);
subplot(2,2,1);
plot3(X(:,1), X(:,2), X(:,3), .k);
grid on;title(Setul de date);
axis([-2.5,2.5,-2.5,2.5,-2.5,2.5]);
%calcul am matricea de autocorelatie
corr mat = X * X;
%calcul am vectorii si valorile proprii
[U,lambda] = eig(corr mat);
%extragem valorile proprii
lambda = diag(lambda);
%sortam valorile proprii
[lambda,ind] = sort(lambda);
lambdaS = lambda(end:-1:1);
%pozition am corespunz ator vectorii proprii;
U = U(:,ind(end:-1:1));
%proiect am datele ^n noul sistem de coordonate
Y = (U * X);
subplot(2,2,2);
plot3(Y(:,1), Y(:,2), Y(:,3), .k);
grid on; title(Setul de date proiectat);
axis([-2.5,2.5,-2.5,2.5,-2.5,2.5]);
%desen am noul sistem de coordonate ^n raport cu cel vechi
axOrx = [0,0,0;1,0,0];
axOry = [0,0,0;0,1,0];
axOrz = [0,0,0;0,0,1];
subplot(2,2,3);
p = plot3(axOrx(:,1), axOrx(:,2), axOrx(:,3), k);
hold on; set(p,LineWidth,2);
p = plot3(axOry(:,1), axOry(:,2), axOry(:,3), k);
hold on; set(p, LineWidth ,2);
p = plot3(axOrz(:,1), axOrz(:,2), axOrz(:,3), k);
117
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
hold on; set(p,LineWidth,2);
z = zeros(1,3);
for i = 1 : 3
p = plot3([0, U(i,1)], [0, U(i,2)], [0, U(i,3)], --r);
hold on; set(p,LineWidth,2);
end
grid on; title(Seturile de axe); axis([-1,1,-1,1,-1,1]);
subplot(2,2,4); plot3(X(:,1), X(:,2), X(:,3), .k); hold on;
U1 = 2.5 * U; %pentru vizualizare
clr = {b--r :g}; %Ordinea axe 1-solid a 2-intrerupt a 3-punctat a
for i = 1 : 3
p = plot3([0, U1(i,1)], [0, U1(i,2)], [0, U1(i,3)], clr{i});
hold on; set(p ,LineWidth, 3);
end
grid on; title(Setul de date original si axele de proiectie
ale KL);
axis([-2.5,2.5,-2.5,2.5,-2.5,2.5]);
Un posibil rezultat grac poate v azut n gura 9.4. Urm arit i ori-
entarea axelor de coordonate calculate de transformare comparativ cu
cea a datelor considerate.
Tema: Se verica not iunea de componente principale?
2
0
2
2
0
2
2
0
2
Setul de date
2
0
2
2
0
2
2
1
0
1
2
Setul de date proiectat
1
0
1
1
0
1
1
0.5
0
0.5
1
Seturile de axe
2
0
2
2
0
2
2
1
0
1
2
Setul de date original si
axele de proiectie ale KL
Figura 9.4: Aplicarea transformatei KL pe un set de date corelate.
2. S a se repete exercit iul precedent pe un set de date necorelate. S a se
118
9.4. Desfasurarea lucr arii
compare valorile proprii obt inute n cele dou a cazuri.
Rezolvare: Un set de date necorelat se poate obt ine cu linia:
X=randn(100,3);
Dac a o rulare a codului pentru exercit iul 1 duce la obt inerea setu-
lui de valori proprii: lambdaS =[ 318.8536, 14.1520, 0.0000], pen-
tru acest caz un rezultat posibil este: lambdaS =[80.0966, 10.4153,
6.3378]. Rezultatul grac poate v azut n gura 9.5.
2
0
2
2
0
2
2
1
0
1
2
Setul de date
2
0
2
2
0
2
2
1
0
1
2
Setul de date proiectat
1
0
1
1
0
1
1
0.5
0
0.5
1
Seturile de axe
2
0
2
2
0
2
2
1
0
1
2
Setul de date original
si axele de proiectie ale KL
Figura 9.5: Aplicarea transformatei KL pe un set de date necorelate.
Observat i diferent a ntre setul original si setul proiectat comparativ cu
exercit iul 1.
Tema: Explicat i diferent ele de gama n valorile proprii obt inute pe un set
de date corelat si unul necorelat.
Tema: Sa se repete calculele de la exercit iile 1 si 2 pentru alte date de
corelat ie variabil a.
3. Compresie de date folosind transformata KL. Se vor considera seturile
de date obt inute la exercit iile precedente. Se va renunt a la ultima,
respectiv ultimele dou a dimensiuni, care se vor nlocui cu 0. Se vor
reproiecta datele n spat iul original si se vor compara cu datele origi-
nale. Se vor vizualiza grac toate aceste rezultate.
Rezolvare: Vom porni de la ecuat ia proiect iei, exprimat a n relat ia
9.3. Dac a nmult im ambii membri cu U
1
la st anga, si apoi facem
119
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
c ateva calcule elementare obt inem:
U
1
y = U
1
Ux
U
T
y = x
(9.8)
Aceast a relat ie reprezent and ecuat ia de proiect ie (sau tranformare) in-
vers a.
Pentru a calcula setul de date comprimat si proiect ia invers a putem
scrie:
Y1 = Y; Y1(:,3) = 0;
X1 = (U * Y1);
subplot(1,2,1);
plot3(X(:,1), X(:,2), X(:,3), .k); hold on;
plot3(X1(:,1), X1(:,2), X1(:,3), or); hold on;
grid on; title(Datele initiale si comprimate in spatiul original);
axis([-2.5,2.5, -2.5,2.5, -2.5,2.5]);
%eroarea
err = sum( X(:) - X1(:) ).^2
subplot(1,2,2);
plot3(Y(:,1), Y(:,2), Y(:,3), .k); hold on;
plot3(Y1(:,1), Y1(:,2), Y1(:,3), or); hold on;
grid on;
title(Datele initiale si comprimate in spatiul transformat);
Rezultatul grac poate v azut n gura 9.6. Desi raportul de com-
presie
4
este de 66.6%, nu se constat a diferent e valorice ntre cele dou a
seturi (nici vizual, nici calcul and eroarea p atratic a dintre dintre se-
tul original si setul comprimat). Dac a repet am experimentul pentru
datele de la exercit iul 2 vom vedea diferent e considerabile.
Tema: Explicat i natura acestor diferent e.
4. Transformata COS. Se va calcula transformata COS a unui set de
date. Se va comprima setul de date prin renunt area la un num ar de
coecient i corespunz atori frecvent elor nalte.
Rezolvare: Vom urm ari modul n care se comport a transformata
COS si efectele compresiei cu un procent de 50% n dou a cazuri: a
datelor corelate, respectiv a datelor necorelate. Codul Matlab necesar
este:
a = zeros(100,1);
a(1) = randn;
for i = 2 : 100
a(i) = 0.9 * a(i-1) + 0.1 * randn(1,1);
end;
4
Raportul de compresie este denit aici ca ind cantitatea de memorie necesara stocarii
datelor transformate raportata la cantitatea init iala. In acest caz, raportul de compresie
este un procent si cu cat e mai mic cu atat compresia e mai ecienta.
120
9.4. Desfasurarea lucr arii
2
1
0
1
2
2
1
0
1
2
2.5
2
1.5
1
0.5
0
0.5
1
1.5
2
2.5
Datele initiale si comprimate in spatiul original
5
0
5
1
0.5
0
0.5
1
0.05
0.04
0.03
0.02
0.01
0
0.01
0.02
0.03
0.04
0.05
Datele initiale si comprimate in spatiul transformat
Figura 9.6: Compresia datelor folosind transformata KL. Am reprezentat
compresia unui set de date corelat.
b = randn(100,1);
figure;
subplot(2,1,1); plot(a, b);
hold on; plot( a, .b);
subplot(2,1,2); plot(b,b);
hold on; plot(b ,.b); %transformata COS
A = dct(a);
B = dct(b);
%Compresie
N = 50;
A(N:end) = 0; B(N:end) = 0;
a1 = idct(A);
b1 = idct(B);
subplot(2,1,1); plot(a1 ,:k);
hold on; plot(a1 ,ok);
title(date corelate);
subplot(2,1,2); plot(b1, :k);
hold on; plot(b1 ,ok);
title(date necorelate);
Dup a cum se poate vedea si n gura 9.7, compresia este mai ecient a
(aici n sensul de a pierde c at mai put in din semnal) dac a datele de in-
trare sunt corelate. Un grad mare de corelat ie este echivalent cu a avea
o pondere important a a energiei semnalului concentrat a n ponderile
frecvent elor joase rezultate n urma transform arii COS.
5. Se vor compara transformatele COS si KL pentru seturi de date cu
121
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
0 10 20 30 40 50 60 70 80 90 100
0.5
0
0.5
1
1.5
date corelate
0 10 20 30 40 50 60 70 80 90 100
3
2
1
0
1
2
3
date necorelate
Figura 9.7: Aplicarea transformatei COS pe date corelate respectiv date
necorelate.
valori diferite ale corelat iei. Pentru aceasta se va implementa transfor-
mata COS direct (f ar a a se utiliza funct ia dct) si se va calcula eroarea
p atratica medie ntre matricea obt inut a n urma tranform arii KL, re-
spectiv cea rezultat a dup a transformarea COS.
122
9.5. Exercit ii si teme propuse
9.5 Exercit ii si teme propuse
1. Cat este determinantul unei matrice unitare complexe?
2. Tranformata Fourier discret a poate la r andul ei caracterizat a de o
matrice. Este aceast a matrice ortogonal a? Dar unitar a? Justicat i.
3. Se spune c a transformata KL maximizeaz a variant a. Explicat i sen-
sul acestei armat ii.
4. Cum poate folosita transformarea KL pentru vizualizarea unor date
5 dimensionale? Dar transformarea COS?
5. Care este leg atura ntre distribut ia valorilor proprii rezultate n urma
transformatei KL si densitatea spectral a de putere a semnalului aleator
de la origine?
123
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
124
Bibliograe
[1] Mihai Ciuc, Constantin Vertan - Prelucrarea statistic a a semnalelor,
Editura MatrixRom, Bucuresti, 2005.
[2] James W. Cooley, John W.Tukey An algorithm for the machine calcula-
tion of complex Fourier, Mathematics of Computation, Vol. 19, Aprilie
1965, pg. 297-301.
[3] Academia Rom an a - Institutul de lingvistic a Iorgu Iordan - Dictio-
narul explicativ al limbii rom ane, Edit ia a II-a, Editura Univers Enci-
clopedic, Bucuresti, 1998
[4] Adelaida Mateescu, Neculai Dumitriu, Lucian Stanciu,Semnale si sis-
teme - Aplicatii in ltrarea semnalelor, Editura Teora, Bucuresti, 2001.
[5] A. Papoulis Probability, random variables and stochastic processes,
Edit ia a treia, McGraw Hill, New York, 1991.
[6] William H. Press, Saul A. Teukolsky, William T. Vetterling, Brian P.
Flannery, Numerical Recipes in C: The Art of Scientic Computing,
Edit ia a doua, Cambridge University Press, 1995.
[7] L.R. Rabiner, B. Gould, Theory and Application of Digital Signal Pro-
cessing, Prentice Hall, Englewood Clis, NJ, 1975.
[8] Robert Sedgewick Algorithms,, Edit ie pentru student i, Adison-Wesley
Publishing Company, 1984.
[9] Steven W. Smith Digital Signal Processing, Edit ia a doua, California
Technical Publishing, 1999.
[10] Constantin Vertan, Inge Gav at, Rodica Stoian Variabile si procese
aleatoare: principii si aplicat ii Editura Printech, Bucuresti, 1999
[11] Constantin Vertan, Mihai Ciuc, Marta Zamr Prelucrarea si Analiza
Imaginilor: Indrumar de laborator, Editura Printech, Bucuresti, 2001.
[12] Adriana Vlad, Bogdan Badea Metode statistice n prelucrarea
informat iei. Estimarea datelor Editura Padeira, Bucuresti, 2002.
[13] Adriana Vlad, Marin Ferecatu, Mihai Mitrea Teoria transmisiunii
informat iei - Elemente teoretice ilustrate n MAthcad, Editura Padeia,
Bucuresti, 2002.
[14] Wikipedia- Enciclopedie disponibila on-line http://en.wikipedia.org
125
BIBLIOGRAFIE
126
Anexa A
Lista de funct ii Matlab
utilizate
abs - funct ia modul
atan - funct ia arc tangent a;
axis - controleaz a axele unui grac;
sin - funct ia sinus;
bar - permite vizualizarea de grace bidimensionale sub form a de his-
togram a;
ceil - transform a valorile reale n valori ntregi prin m arire;
circshift - shifteaz a circular valorile unui vector
cos - funct ia cosinus;
cumprod - este un vector ale c arui elemente sunt produsele cumula-
tive ale valorilor unui vector original;
cumsum - este un vector ale c arui elemente sunt sumele cumulative
ale valorilor unui vector original;
det - calculeaza determinantul unei matrice;
dct - calculeaza transformata Cosinus discret a a unei secvent e;
diag - construieste o matrice diagonal a sau, in funct ie de paramterul
de la intrare, extrage elementele de pe diagonala unei matrici
di - calculez a un vector ce cont ine diferenta a dou a c ate doua ele-
mente consecutive al unui vector original;
eig - calculeaza vectorii si valorile propri ale unei matrici
eye - genereaz a matricea identitate;
exp - funct ia exponent ial a;
127
ANEXA A. LISTA DE FUNCT II MATLAB UTILIZATE
t - calculeaza transformata Fourier Discret a a unei secvent e de nu-
mere
gure - deschide o nou a gur a sau controleaz a o gur a precizat a;
oor- transform a valorile reale n valori ntregi prin rotunjire la cel
mai apropiat intreg mai mic;
fprintf - aseaz a un mesaj la consol a;
get - ntoarce o proprietate a unui obiect (folosit a n special n grac a)
grid - controleaz a caroiajul unui grac;
hist - calculez a (si reprezint a grac) histograma unui vector de valori;
hold - ment ine gracele fereastrei curente n vederea suprapunerii de
desene;
idct - transformata COS invers a
it - transformata Fourier invers a
imag - extrage parte imaginar a a unui num ar complex
input - permite introducerea de mesaje de la consol a;
inv - calculeaza inversa unei matrice;
load - ncarc a variabilele stocate dintr-un sier .mat
log - funct ia logaritm natural;
logspace - deneste un vector cu elementele la ecart constant ntr-un
spat iu logaritmic;
length - ntoarce numarul de elemente al unui vector sau num arul de
coloane al unei matrice;
max - extrage valoarea maxim a precum si pozit ia (indicele) ei dintr-un
vector;
mean - returneaz a valoarea medie a elementelor unui vector;
mesh - permite vizualizarea de grace tridimensionale prin desenarea
contururilor;
min - extrage valoarea minim a precum si pozit ia (indicele) ei dintr-un
vector;
plot - permite vizualizarea de grace bidimensionale;
prod - calculeaz a produsul valorilor unui vector;
rand - genereaz a o matrice av and cu realiz ari particulare ale unei
variabile aleatoare uniforme in [0,1];
128
randn - genereaz a o matrice av and cu realiz ari particulare ale unei
variabile aleatoare gaussiene de medie 0 si dispersie 1;
real - extrage partea real a a unui num ar real
round - transform a valorile reale n valori ntregi prin rotunjire;
ones - genereaz a o matrice cu toate valorile 1;
save - salveaz a variabilele specicate din memoria de lucru ntr-un
sier .mat
set - seteaz a o proprietate a unui obiect (folosit a n special n grac a)
sin - funct ia sinus;
size - ntoarce dimensiunile matricei / vectorului (numar de linii,
coloane,...);
sort - sorteaz a n ordine cresc atoare valorile din vector;
stem - varianta a lui plot de reprezentare a funt iilor
subplot - genereaz a mai multe suprafet e de desen n gura curent a;
surf - permite vizualizarea de grace tridimensionale prin desenarea
suprafet elor;
sum - calculeaza suma valorilor unui vector;
sqrt - funct ia radical;
tan - funct ia tangent a;
title - aseaz a numele unui grac;
zeros - genereaz a o matrice cu toate valorile 0;
129

You might also like