Расчет среднего значения и медианы.

нА/мин

M=1,2315 нА/мин

 

Расчет дисперсии и стандартного отклонения.

Дисперсию выборки (V) вычисляют по формуле:

- отклонение от среднего

|xi-x|	|xi-x|2
0,10879	0,01184
0,05401	0,00292
0,08991	0,00808
0,02039	0,00042
0,08059	0,00650
0,04519	0,00204
0,04181	0,00175
0,02869	0,00082
0,03119	0,00097
0,07501	0,00563
0,08781	0,00771
0,01919	0,00037
0,01921	0,00037
0,01069	0,00011
0,02299	0,00053

 

Рассчитаем дисперсию:

Стандартное отклонение представляет собой квадратный корень из дисперсии, взятый с положительным знаком, и имеет размерность измеряемой величины.

Расчет относительного стандартного отклонения.

 

Расчет доверительного интервала.

f=n-1=15-1=14

Коэффициент Стьюдента t_(0,95;14)=2,15

Сравнение данных полученных при ручном обсчете и

Компьютерной программы Microsoft Excel.

Критерии	Среднее значение	Медиана	Дисперсия	Стандартное отклонение	Относительное стандартное отклонение	Доверительный интервал
Ручной расчет	1,21	1,2315	0,003575	0,05979	0,04932	0,03
Расчет с помощью программы Microsoft Excel	1,21	1,2315	0,003575	0,059791	0,049324	0,03

Задание №2. Расчет параметров линейной регрессии градуировочной прямой, определение коэффициента чувствительности, коэффициента корреляции.

Пример.2. При построении градуировочной прямой для биосенсора

амперометрического типа на основе дрожжевогоштамма

DebaryamyceshanseniiVKMY-2482 получены следующие данные.

Концентрация ГГА, мг/дм3
Среднее значение ответа биосенсера, нА/мин	2,3824	4,4943	5,9489	6,7708	7,8877	9,5994	11,8717	13,7131	15,2947

 

 

Зависимость аналитического сигнала (y), в данном случае ответ сенсора в нА/мин, от концентрации (х) в мг/дм³, можно выразить линейным уравнением:

Коэффициенты aи bможно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:

Расчет сумм:

 

xi	xi2	yi	yi2	xiyi
		2,382433	5,675989	71,473
		4,494267	20,19843	224,7133
		5,9489	35,38941	416,423
		6,770833	45,84418	609,375
		7,887667	62,21529	946,52
		9,599433	92,14912	1439,915
		11,87167	140,9365	2374,333
		13,7131	188,0491	3428,275
		15,29467	233,9268	4588,4
		77,963	824,3848	14099,43

Σx_i=1260

Σx_i²=245800

Σy_i=77,963

Σy_i²=842,3848

Σx_iy_i=14099,43

n=9

y=0,04589x+2,238 – линейное уравнение калибровочной прямой

 

Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений y для n образцов сравнения относительно рассчитанной прямой y=ax+b, определяется выражением:

 

 

Дисперсии параметров a и b равны:

 

Из дисперсии рассчитываем стандартные отклонения.

Рассчитаем доверительные интервалы для a и b:

где Р =0,95; f=n-2=9-2=7

t_(P,f)=2,3

Коэффициент чувствительности:

Рассчитаем коэффициент корреляции:

Расчет и построение грауировочного графика

с помощью программы MicrosoftExcel.

 

ГГС, мг/дм	ответы нА/мин	среднее значение	стандартное отклонение	доверительный интервал
	2,5162	2,2769	2,3542	2,3824	0,1221	0,1
	4,4928	4,6326	4,3574	4,4943	0,1376	0,2
	5,6981	5,6102	6,5384	5,9489	0,5124	0,6
	6,9745	6,5895	6,7485	6,7708	0,1935	0,2
	7,8691	7,8358	7,9581	7,8877	0,0632	0,07
	9,584	9,6109	9,6034	9,5994	0,0139	0,02
	11,8259	11,9431	11,846	11,8717	0,0627	0,07
	13,7281	13,7128	13,6984	13,7131	0,0149	0,02
	15,3094	15,2981	15,2765	15,2947	0,0167	0,02

 

График градуировочной зависимости ответа сенсора от концентрации субстрата.

 

Уравнение прямой: y=0,0459x+2,2383

Коэффициент корреляции: R=0,9902

Расчет и построение грауировочного графика с помощью программы SigmaPlot.

Nonlinear Regression - Dynamic Fitting

Equation: Polynomial; Linear

f=y0+a*x

 

Results for the Overall Best-Fit Solution:

R Rsqr Adj Rsqr Standard Error of Estimate

 

0,9914 0,9828 0,9804 0,5821

 

Coefficient Std. Error t P VIF

y0 2,2023 0,3730 5,9037 0,0006 3,6966

a 0,0463 0,0023 20,0104 <0,0001 3,6966

 

Сравнение данных полученных при ручном обсчете и с помощью

Компьютерных программ.

 

параметры	Sigma Plot	Excel	По формулам
а	0,0463	0,0459	0,05±0,02
b	2,2023	2,2383	2,2 ±0,1
уравнение прямой	y=0,05x+2,2	y=0,05x+2,2	y=0,05x+2,2
R	0,9914	0,9902	0,9900

 

Задание №3.Оценка правильности метода.

Пример 3. Оценка была проведена при статистической обработке генеральной совокупности из 28 опытов по определениюбенз(а)пирена в растворе ГСО с тзвестнойконцентрацией 1,00 мкг/мл.

 

№ измерения	Концентрация, мкг/мл	№ измерения	Концентрация, мкг/мл
	0,87		0,99
	0,89		1,02
	0,90		1,03
	0,90		1,03
	0,92		1,04
	0,92		1,05
	0,94		1,05
	0,95		1,08
	0,97		1,08
	0,97		1,08
	0,98		1,09
	0,98		1,10
	0,98		1,11
	0,99		1,14

 

Выявление промахов.

Проверяем значение 1,14, т.к. оно сильнее отстоит от соседнего значения.

- размах варьирования

Тестовая статистки рассчитывается по формуле:

Критической величиной является табличное значение Q_(P,n)=0,39.

Так как , то промаха нет, данное значение принадлежит выборке.

Рассчитаем среднее значение выборки:

Для проверки значимости различия между средним и константой воспользуемся следующей статистикой:

Рассчитаем стандартное отклонение для выборки:

- отклонение от среднего

концентрация, мкг/мл	|xi-x|	|xi-x|2
0,87	0,131786	0,017367
0,89	0,111786	0,012496
0,90	0,101786	0,01036
0,90	0,101786	0,01036
0,92	0,081786	0,006689
0,92	0,081786	0,006689
0,94	0,061786	0,003817
0,95	0,051786	0,002682
0,97	0,031786	0,00101
0,97	0,031786	0,00101
0,98	0,021786	0,000475
0,98	0,021786	0,000475
0,98	0,021786	0,000475
0,99	0,011786	0,000139
0,99	0,011786	0,000139
1,02	0,01821	0,000332
1,03	0,02821	0,000796
1,03	0,02821	0,000796
1,04	0,03821	0,00146
1,05	0,04821	0,002325
1,05	0,04821	0,002325
1,08	0,07821	0,006117
1,08	0,07821	0,006117
1,08	0,07821	0,006117
1,09	0,08821	0,007782
1,10	0,09821	0,009646
1,11	0,10821	0,01171
1,14	0,13821	0,019103

 

Рассчитает тестовую статистику:

Рассчитанную тестовую статистику сравним с критическим значением – коэффициент Стьюдента t_(0,95;27)=2,04.

Отличие результата анализа от действительного значения незначимо, методика не содержит систематической погрешности.

 

Рассчитаем доверительный интервал: