Поиск

Полнотекстовый поиск:
Где искать:
везде
только в названии
только в тексте
Выводить:
описание
слова в тексте
только заголовок

Рекомендуем ознакомиться

'Планы семинарских занятий'
для студентов общеюридического факультета, обучающихся по образовательной программе высшего профессионального образования специальность: 030501.65 «Ю...полностью>>
'Автореферат'
Защита состоится «21» декабря 2006 г. в 13.00 часов на заседании диссертационного совета Д 212.029.03. по защите диссертаций на соискание ученой степ...полностью>>
'Реферат'
Тема работы актуальна потому, что ни одно государство в мире не может стабильно и динамично развиваться без интеграции в мировую экономику. Наблюдает...полностью>>
'Реферат'
Сегодня, как никогда ранее, необходимы поиски наиболее результативных путей и способов интенсификации учебно-воспитательного процесса, улучшения каче...полностью>>

Нейрокомпьютерная обработка сигналов и изображений (5)

Главная > Решение
Сохрани ссылку в одной из сетей:

Нейрокомпьютерная обработка сигналов и изображений

Решение задачи распознавания туберкулезных бацилл на изображениях, полученных с флюорисцентного микроскопа с помощью ансамбля нейронных сетей

Томашевич Н.С.1, Галушкин А.И.1, Рябцев Е.И.2

1ФГУП НИИ Автоматической Аппаратуры им. академика В.С. Семенихина,

2ООО (Научно Производственное Предприятие) Технотерм

1. Постановка задачи

Сотрудниками ФГУП ЦНИРТИ был разработан флюорисцентный микроскоп, получивший название микровидеотестер МВТ-ЛН. Он предназначен для компьютерного анализа патогенных микроорганизмов с использованием нейросетевого программного обеспечения. Этот микроскоп имеет российский патент № 2123682 от 01.07.1997. Он также был удостоен следующих наград: золотой медали в Брюсселе в 2000 году, а также золотой медали в Москве, серебрянной в Женеве и бронзовой в Париже в 2001 году.

Для данного микроскопа была поставлена задача разработки программного обеспечения, позволяющего решать задачу выделения и подсчета числа патогенных микроорганизмов на цифровом изображении в автоматическом режиме. Физическая постановка задачи формулируется следующим образом:

Дано: серое 256-тоновое изображение размера пиксел, полученное с флюорисцентного микроскопа. Изображение получается в результате раскрашивания анализа слюны пациента красителем, реагирующим на наличие туберкулезных микроорганизмов, и подается в растровом формате на компьютер через подключенный к нему микроскоп. Изображение содержит различные объекты, которые можно разделить на два класса:

  1. Туберкулезная палочка (имеет форму вытянутого эллипса, ее длина может варьироваться примерно от 6 до 15 пикселов);

  2. Не палочка (имеет форму, отличную от формы эллипса).

Требуется: Получить число палочек (указав на них) на изображении. К системе распознавания предъявляются следующие требования:

  • Инвариантность к сдвигу, повороту и незначительному изменению масштаба туберкулезной палочки. Т.е. система должна обечпечивать инвариантность к аффинным преобразованиям плоскости;

  • Инвариантность к яркости палочки. Палочка всегда светлее (ярче) фона, но нельзя указать порога яркости, выше которого все точки изображения принадлежат палочкам;

  • Инвариантность к изгибу палочки. Палочка представляет собой эллипсообразный объект, но поскольку является грибом, то может произвольно изгибаться.

Кроме того, система распознавания должна выполнять обработку исходного изображения за время не более 1.5 сек на машине с 128 Мб оперативной памяти и процессором не менее 400 Гц.

2. Методика решения задачи

На рис. 1 приведены примеры исходных изображений. Как видно из этих примеров, помимо самих палочек на исходном изображении присутствует большое число мелких и крупных ложных объектов. К крупным ложным объектам как правило относятся слизь или слюна пациента, а к мелким – кусочки краски от красителя, выделяющего палочки, и разные микроорганизмы, не являющиеся паталогией.

Р
ис. 1.

Каждая палочка (как впрочем и каждый ложный объект) исходного изображения имеют более или менее ярко выраженные границы. Поэтому было бы хорошо, если бы из исходного серого 256-цветного изображения мы получили черно-белое изображение, содержащее только палочки и небольшие ложные объекты, размеры которых сопоставимы с размерами палочек. В этом случае задача распознавания палочек сводится к задаче выделения эллипсообразных объектов на изображении, и вычисления отношения их длины к ширине, что несложно реализуется обычными методами без использования нейронных сетей. При отношении длины к ширине более 1.5-1.8 можно уверенно отнести объект к числу туберкулезных палочек.

Итак, рассмотрим методику построения нейронной сети, решающей задачу сегментации и фильтрации исходного серого изображения, в результате чего будет получено бинарное изображение, содержащие только палочки и небольшие ложные объекты. Эта нейронная сеть будет обеспечивать инвариантность к: сдвигу, повороту, незначительному изменению масштаба и яркости объектов исходного изображения.

Рис. 2.

В каждой точке исходного изображения будем рассматривать окно размером точек (15 – это максимальная длина палочки), где - центр этого окна; это обеспечит инвариантность к сдвигу. Для обеспечения инвариантности к повороту преобразуем квадратную пиксельную решетку рассматриваемого окна в круглую, как показано на рис. 2. Затем, каждый из получившихся восьми секторов круговой матрицы подаем на вход нейронной сети детектора границ (НСДГ). Эта нейронная сеть также является инвариантной к яркости изображения.

В
ыходы восьми нейронных сетей НСДГ подаются на вход следующей нейронной сети классификатора (НСК), на выходе которой будет +1, если в рассматриваем окне содержится палочка или небольшой ложный объект, и –1 в противном случае. Таким образом, в результате мы получим бинарное изображение, на котором будут содержаться только палочки и мелкие ложные объекты (на рис. 3 они отмечены белым цветом, а фон – черным).

Далее остается только классифицировать объекты получившегося в результате фильтрации и сегментации изображения. Для этого мы рассматриваем на полученном бинарном изображении только белые точки. Опять вокруг каждой белой точки формируем окно и преобразуем это окно в круговую матрицу, так же как это делали на рис. 2. Из восьми секторов круговой матрицы находим два не соседних сектора, содержащих максимальное число белых точек, расположенных последовательно друг за другом при движении от центра окна к его краям; это будет длина объекта находящегося в окне. Аналогично находим ширину объекта и, вычислив отношение длины к ширине, классифицируем этот объект как палочку либо как ложный объект. Такая методика классификации позволяет реализовать инвариантность к незначительному изменению масштаба палочки и к изгибу палочки.

Общее время решения задачи на машине с указанными в постановке задаче характеристиками в зависимости от количества палочек и мелких ложных объектов составляет 1.1-1.3 сек. В частности, для реализации нейросетевой части (фильтрации и сегментации исходного изображения) требуется 0.7 сек.

На рис. 3 первый и третий столбец содержат исходные серые изображения, на которых белыми квадратиками помечены туберкулезные палочки. Во втором и четвертом столбцах представлены решения системы для первого и третьего столбцов, соответственно.

Что касается качества решения задачи, то все палочки, различимые человеком на исходном изображении, были правильно классифицированы (рис. 3). Также были правильно классифицированы более 95% ложных объектов. Те же ложные объекты, которые на исходном изображении не отличаются от палочек (это происходит в результате действия красителя на объекты, не являющиеся палочками), распознаны не были.

Р
ис. 3.

Литература

1. Томашевич Н.С. Об одном методе решения задачи аппроксимации функций с помощью двухслойной нейронной сети переменной структуры. // 3-я Международная конференция “Цифровая обработка сигналов и ее применение”, Москва, 29 ноября-1 декабря 2000.

2. Томашевич Н. С., Томашевич Д. С., Галушкин А. И. Методы реализации инвариантности к аффинным преобразованиям при распознавании двумерных изображений. // Приложение к журналу "Информационные технологии", №1, 2001.

3. Галушкин А.И., Злобин В.С., Коробкова С.В., Рябцев Е.И., Томашевич Н.С., Тумоян Е.П. Нейрокомпьютерная обработка изображений в задаче идентификации возбудителей туберкулеза. // журнал «Нейрокомпьютеры: разработка, применение», №3-4, 2003.



Recognition of tuberculous bacillus in images received from fluorescent microscope using assembly of neural networks

Tomashevitch N., Galushkin A., Riabtsev E.

Algorithm for recognition of tuberculous bacillus in grey level digital images of patient’s saliva test is presented. Algorithm compose of two parts. In the first part the filtration and binarization of the initial image is performed using assembly of neural networks, as a result we receive image with small false objects and tuberculous bacillus. In the second part we use heuristic procedure for classification of the remained small objects. Results of tests have shown a high quality of the system. All bacillus which can be recognized by human, have been right classified. More than 95% of false objects have been right classified. Those false objects which don’t differ from bacillus in the initial image, havn’t been recognized.



Влияние размера сети на эффективность нейросетевого детектирования фазоманипулированных сигналов

Овчинников П.Е.

НИФТИ Нижегородского Государственного университета им. Н.И. Лобачевского

В настоящее время нейросетевые технологии все более широко применяются в различных системах обработки данных, в том числе нейронные сети используются при обработке радиосигналов [1]. В данной работе рассматривается метод нейросетевого детектирования фазоманипулированного (ФМ) сигнала, и исследуется эффективность этого метода в зависимости от размера нейронной сети для четырехпозиционного (ФМ4) сигнала.

Для использования нейронной сети задача детектирования ФМ-сигнала может быть переформулирована в задачу распознавания моментов изменения фазы. Для задач распознавания, состоящих в классификации с заранее определенным набором классов, удобен многослойный персептрон [2]. Известно, что если персептрон асимптотически обучается как 1-из-N классификатор с использованием критерия среднеквадратичного отклонения, то его выходы аппроксимируют апостериорные вероятности отнесения к классам [3]. При использовании ИНС в качестве классификатора может быть построена следующая схема детектирования (Рис. 1).

Математически дискретизованный ФМ сигнал может быть представлен в виде:

, (1), где – номер отсчета, – период дискретизации, – амплитуда, – несущая частота, – изменение частоты, вызванное различными факторами, в том числе эффектом Доплера, – шум, – изменение фазы, обусловленное манипуляцией, здесь – размер алфавита (число позиций манипуляции), – передаваемый символ (принимает значения от 0 до ).

Рис. 1. Схема детектирования ФМ4 сигнала с использованием ИНС.

На вход обученной нейронной сети подаётся фрагмент дискретизованных IQ компонент сигнала, представляющих собой выход цифрового приёмника: (2), где – фильтр низких частот и дециматор, так как обычно частота дискретизации IQ компонент выбирается существенно меньшей частоты дискретизации исходного сигнала.

Длина фрагмента, т.е. число отсчетов и, соответственно, число пар входов ИНС выбирается равной длине символьного сегмента: (3), где – частота дискретизации IQ компонент, – частота следования символов.

Чтобы уменьшить влияние уровня сигнала на эффективность детектирования, в каждом фрагменте производится нормировка на константу среднего квадрата отсчетов компонент. По выходу персептрона определяется тип скачка фазы на данном участке сигнала. Следует отметить, что скачкообразный характер изменения фазы и, соответственно комплексной огибающей, будет иметь место только при широкой частотной полосе приёмной системы. При полосе пропускания, сравнимой с частотой манипуляций, данные зависимости принимают достаточно сглаженный вид (Рис. 1). Число выходов персептрона равно числу возможных изменений фазы, так для ФМ4 сигнала оно равно четырем. При последовательной подаче на вход нейронной сети отсчетов IQ компонент на выходах формируются сигналы, отражающие вероятности скачкообразных изменений фазы в зависимости от времени. Для краткости назовём совокупность этих сигналов фазограммой. Пример фазограммы представлен на Рис. 1. На фазограмме значения на выходах ИНС показаны цветом: белый – 0, чёрный – 1. Для уменьшения влияния шумов каждый из сигналов фазограммы сглаживается по времени при помощи свертки с прямоугольным окном.

После сглаживания фазограмма передискретизуется с частотой равной частоте манипуляций и для определения символов используется критерий максимального правдоподобия. Результатом дискретизации является набор векторов, где каждый вектор соответствует одной манипуляции. Величина изменения фазы при манипуляции, определяется по наибольшему значению в соответствующем векторе (отсчете сглаженной фазограммы), таким образом восстанавливаются передаваемые символы: (4), где – детектируемый символ.

Описанный алгоритм использует обученную сеть. Обучение производится стандартным способом на фрагментах реализаций комплексной огибающей сигнала, подобных тем, которые предполагается распознавать. В работе использовался двухслойный персептрон со следующими параметрами: число нейронов в выходном слое – 4 (по числу возможных изменений фазы), 16 нейронов в скрытом слое, сигмовидные функции активации для всех нейронов [2].

Для проведения численных экспериментов в работе использовалась программная реализация многослойного персептрона. В качестве процедуры обучения применен алгоритм обратного распространения ошибки. Для обучения ИНС в задачах распознавания требуется набор пар «вход-выход», поэтому обучающая выборка формировалась из специально сгенерированных сигналов. Поскольку детектирование должно осуществляться в условиях аддитивных шумов, то выборка для обучения была составлена из IQ реализаций зашумленных сигналов с соотношением сигнал/шум +10дБ.

В работе проводилось детектирование ФМ4 сигнала (возможные изменения фазы: 0, π/2, π, -π/2). Параметры сигнала: спектральная полоса – 40 кГц, частота манипуляций – 16000 бит/с, частота дискретизации IQ компонент – 192 кГц. На вход персептрона одновременно подавались 12 отсчетов I и 12 отсчетов Q компоненты, что соответствует отрезку сигнала, содержащему один период манипуляции. После каждого сдвига по времени на один отсчет производилась новая подстановка и вычисления, связанные с обработкой сигнала нейронной сетью. Таким образом достигалась максимальная детализация фазограммы по времени, а именно 12 выходных векторов персептрона на один период манипуляции. При необходимости объем вычислений предлагаемого метода может быть уменьшен за счет увеличения шага между двумя последовательными подстановками отсчетов сигнала на вход персептрона.

Для определения устойчивости построенной системы к шуму перед детектированием на сигнал накладывался аддитивный шум в той же спектральной полосе, что и сигнал. Результаты статистических испытаний предложенного метода детектирования представлены на Рис. 2. Каждая точка на графике получена в результате детектирования 10000 символов. На рисунке показан график зависимости вероятности символьной ошибки от числа узлов в скрытом слое для тестовых сигналов с соотношением сигнал/шум 10 дБ. Видно, что существует оптимальный размер сети: 14 узлов в скрытом слое, а дальнейшее увеличение приводит к росту вероятности ошибки.

Рис. 2. Зависимость вероятности ошибки от числа узлов в скрытом слое.

Рассмотрено применение нейронной сети в задаче детектирования фазоманипулированного сигнала. Компьютерное моделирование показало, что применение нейросетевого подхода позволяет построить систему, детектирующую ФМ4 сигналы с вероятностью ошибки менее 10-3 с соотношением сигнал/шум не хуже +10 дБ. Обнаружено, что эффективность детектирования зависит от размера сети, для сигналов ФМ4 оптимальной является сеть с 14 узлами в скрытом слое.

Литература

  1. Нейрокомпьютеры в системах обработки сигналов. Под ред. Гуляева Ю.В. и Галушкина А.И.. – М: Радиотехника, 2003.

  2. Lippmann R.P. An introduction to computing with neural nets. IEEE ASSP Magazine. 1987. V.AP-4. P. 4.

  3. Hampshire J., Pearlmutter B. Equivalence Proofs for Multi-Layer Perceptron Classifiers and the Bayesian Discriminant Function. Proc. of the 1990 Connectionist Models Summer School, Morgan Kaufmann Publishers, 1990. P. 1.



Influence of the network size on efficiency of detectings PSK signals with neural network

Ovchinnikov P.

Physical-Technical Research Institute of Nizhni Novgorod State University

Nowadays neural network technologies find more and more wide application in various signal processing systems including the processing of radio signals.

Various kinds of angular (phase and frequency) modulations and manipulations have found a wide propagation in modern systems of transfer of digital information via radio channels. During detecting of such signals there is a problem of construction of the deciding device for putting in conformity a segment of signal and value of an information symbol. This device has to be robust to noise and to distortion of the frequency characteristic of the radio channel. Procedure of detecting becomes more and more difficult to formalize when the quality of a signal decreases and then parameters of a signal fluctuate, especially in the case of the use of M-ary phase-shift keying (PSK) with M>2. Traditional schemes of PSK demodulators, included into detecting devices, are usually connected with sufficiently complex hardware with numerous feedback circuits for automatic parameters control. Furthermore standard algorithms of detecting behave unstably, when parameters of a signal changing, for example when carrier frequency changing because of Doppler’s effect. Ability of an artificial neural network (ANN) to take a decision with the limited training information, called “generalization property”, presumes to construct algorithm of detecting invariant to small changes of parameters of a signal and steady against noise.

In the work in the question the method of neural network detecting of PSK signal on the basis of the analysis complex envelope, consisting of in-phase (I) and quadrature-phase (Q) components, is considered. The method of quadrature demodulation is applied for extraction of complex envelope. In modern communication systems this extraction is realized by digital receivers, which carry a spectrum on zero frequency and then apply low-pass filtration. The analysis of complex envelope of signal allows reducing volume of processed data due to reduction of sampling frequency.

For use of a neural network the problem of detecting of the PSK signal can be formulated as a problem of recognition of the moments of phase changing. In the given work for recognition it is used perceptron with one hidden layer. The developed method of detecting is applicable for M-ary PSK signals, statistical research of efficiency is lead for narrow-band quaternary PSK signals with noise in the same band.

When a neural network is used in a system of detecting, as well as in the majority of practical tasks, there is a problem of estimation of the necessary size of a neural network. In the work in the question dependence of efficiency of detecting on number of units in the hidden layer of perceptron is investigated.

Computer experiments have shown that for a considered task exists the optimum size of a network. The optimum size provides simultaneously satisfactory quality of detecting and high speed. The excessive increase in number of units leads to decrease in speed of detecting and to increase in error probability.

The proposed detecting method uses comparatively small neural network and can be realized software or hardware (on the basis of digital signal processors or programmed logic chips) for the task of real time detecting. Complex envelope samples are fed to ANN from the digital receiver, and on the output of the neural network detector symbols of the received information are formed. Thus application of neural network technologies allows constructing the finished scheme of PSK signals detector.



ПРОБЛЕМЫ НЕЙРОСЕТЕВОЙ ФИЛЬТРАЦИИ И ИНТЕРПОЛЯЦИИ ФОТОГРАФИЧЕСКИХ ИЗОБРАЖЕНИЙ

Скрибцов П.В., Долгополов А.В.

ООО “ПАВЛИН ТЕХНОЛОГИИ”

Одной из распространенных операций с цифровыми изображениями, является увеличение их масштаба или увеличение фрагментов. При увеличении масштаба цифрового фотоизображения старая сетка пикселей преобразуется, появляются новые пиксели, цвета которых рассчитываются при помощи алгоритмов интерполяции. Интерполяция может выполняться различными способами, наиболее простые и распространённые из них:

  • Nearest neighbor (метод ближайшего соседа) – самый быстрый и простой, применяется, когда изображение увеличивается на небольшую величину;

  • Linear (билинейная интерполяция) – более точный метод, по сравнению с предыдущим;

  • B-spline (или бикубическая интерполяция) - самый точный метод из выше перечисленных.

Наиболее качественный результат достигается с применением бикубической интерполяции. Этот метод часто является эталонным при сравнении различных способов увеличения изображений и реализован в хорошо-известной программе обработки фотоизображений Adobe Photoshop.

Кроме проблемы поиска цвета «промежуточных пикселей» (интерполяции), присутствует проблема фильтрации шумов. При наличии в исходном изображении шумов, при увеличении масштаба они усиливаются. Из малозаметных на малом масштабе, шумы становятся хорошо заметными на увеличенном изображении. При субъективной зрительной оценке, «увеличение» шумов пропорционально коэффициенту увеличения самого изображения. Природа шумов на изображении может быть различной. Помимо физических погрешностей и дискретной природы цифровых фото-сенсоров, из-за широкого применения алгоритмов компрессии изображений с потерей качества (таких как JPEG, например), шумы в той или иной степени, как правило, присутствуют в большинстве цифровых изображений. Для сглаживания шумов изображение можно подвергнуть фильтрации, однако вследствие этого увеличенное изображение становится более размытым, чем оригинал или его увеличенная и зашумленная копия. Применение простых фильтров (таких как median filter, gauss blur) после процедуры увеличения позволяет уменьшить шумы, но неизбежно ведёт к потере чёткости. Из этого вытекает, что проблема увеличения изображений должна рассматриваться как совокупная проблема интерполяции и фильтрации изображения (интерполяция, устойчивая к шуму).

В настоящий момент различными исследователями ведутся работы по разработке «интеллектуальных» алгоритмов, улучшающих процесс увеличения изображений. На основе таких алгоритмов создаются коммерческие продукты и компоненты, такие как SmartScale, Genuine Fractals [1], востребованные на рынке ПО для обработки цифровых фотографий. Разработчики алгоритмов приводят примеры, на которых результаты увеличения изображений при помощи их алгоритмов превосходят по качеству результаты, получаемые при бикубической интерполяции. Однако, как показывают независимые обзоры [2], текущие решения не являются совершенными. Критерием работы подобных алгоритмов является как точность интерполяции, так и устойчивость к шумам.

С учетом общепризнанного успеха применения нейронных сетей в задачах аппроксимации функций и фильтрации сигналов [3-7], в рамках данной работы была осуществлена попытка применить нейронные сети для интерполяции и фильтрации цифровых изображений. Существует ряд работ, в которых нейронные сети применяются для улучшения процесса увеличения изображения [8,9], но чаще всего, они используются как отдельные элементы более сложного эмпирического алгоритма, например, в качестве классификаторов пиксельных областей, которые используются для последующей настройки некоторых параметров системы. В данной работе исследовалась возможность использования нейронной сети «в лоб», то есть как устойчивого к шумам аппроксиматора значений соседних пикселей для получения значений промежуточных пикселей.

В настоящем исследовании применялась нейронная сеть прямого распространения (FFNN). В теории использование нейронной сети прямого распространения сигнала крайне просто. Для данного множества из N точек , представляющих собой координаты в двумерном евклидовом пространстве, и соответствующего множества из N действительных чисел найти такую функцию , реализованной нейронной сетью, чтобы в максимально возможной степени выполнялось условие интерполяции: Теория нейронных сетей говорит о возможности построения нейронной сети, решающей поставленную выше задачу с любой заданной точностью. Однако на практике таких решений пока не существует. Это можно объяснить исходя из следующих соображений. Для изображения размером 640x480 число примеров обучения составит 307200. Для точного запоминания всей информации в изображении, число весовых коэффициентов нейронной сети должно быть очень велико и сравнимо с числом обучающих примеров. Обучение таких огромных нейронных сетей методами первого порядка (градиентными методами) проблематично в связи с медленной скоростью сходимости (для данной задачи недопустимо медленной), а методами второго порядка - проблематично из-за высоких требований к памяти (пропорциональной квадрату от числа весовых коэффициентов). Однако даже если решить проблемы с быстродействием и памятью, возникнет следующая проблема – нейронная сеть, точно запоминающая обучающую последовательность при слишком большом числе весовых коэффициентов, имеет низкую способность к обобщению, то есть способность к выдаче «интуитивно-ожидаемого» результата для значений входного сигнала, не входящего в обучающую выборку, то есть для промежуточных пикселей. Для задачи нейросетевой интерполяции это является ключевым фактором качества работы системы увеличения фотоизображений.

Ключ к решению данной проблемы лежит в специфике фотоизображений, как отдельного класса «не совсем случайных» наборов данных. Если каждое фотоизображение, в целом, уникально и непредсказуемо, то мелкие его детали обладают, как правило, более высокой степенью смысловой связанности. Из этого следует, что необходимо разбивать исходное изображение на мелкие блоки. Внутри каждого блока, как правило, изображение может иметь коррелированные данные, для точного представления которых нейронной сетью будет достаточно небольшого числа весовых коэффициентов - намного меньшего, чем число пикселей в блоке, а, следовательно, при этом сохраняется высокая степень обобщающей способности нейросети. Для каждого блока, нейронная сеть как бы «угадывает» его относительно простую структуру и использует это для оценки значений промежуточных пикселей в процессе интерполяции. В простейшем случае, для формирования блоков используется скользящее окно, которое перемещается по всему изображению. Для каждого блока обучается своя нейронная сеть. Такая трансформация исходной задачи, однако, порождает отдельную новую задачу агрегирования результатов для множества нейронных сетей и получение итогового изображения. Если блоки брать неперекрывающимися, то на границах блоков возникают нестыковки, которые очень хорошо замечает глаз – в результате, итоговое изображение выглядит, как состоящее из квадратных сегментов. На практике был исследован целый спектр методов объединения сигналов нейронных сетей, соответствующих перекрывающимся блокам. На данный момент, возникло понимание, что правильным подходом к решению задачи объединения сигналов от перекрывающихся окон, будет трактовка этой проблемы, как проблемы слияния данных или, по-английски data fusion task [10].

Если сосредоточиться на решении задачи более низкого уровня – обучении нейронной сети для одного блока, то и здесь теория нейронных сетей оставляет для исследователя ряд вопросов, требующих теоретического и экспериментального исследования. Согласно методологии, используемой в книге А.И. Галушкина [3], решения нейросетевых задач, можно предложить следующее описание нейросетевой задачи:

Входной сигнал сети. В качестве входного сигнала мы предлагаем использовать координаты пикселей окна, которые расположены в равномерной единичной решётке (один пиксель – одна ячейка). Для увеличения окна значения сети вычисляются и для таких координат, которых не было в обучающей последовательности. Следовательно, сеть будет иметь два входа, на которые подаются координаты x, y пикселей. Для того чтобы улучшить фильтрацию изображения размер окна необходимо увеличивать (6x6, 7x7, 8x8), однако чтобы не потерять мелкие детали, размер окна нужно брать меньше(4x4, 5x5). В настоящий момент проводятся исследования по использованию адаптивного размера окна с предварительной генерацией адаптивной сетки на исходном изображении.

Выходной сигнал сети. Исходное изображение необходимо разбить на слои R, G, B, соответствующим трем числовым компонентам пикселя, которые определяют его цвет. То есть сеть будет иметь один выход – интенсивность соответствующей компоненты пикселя для данной координаты. Это позволяет упростить структуру сети(1 выход вместо 3), а, следовательно, уменьшить число весовых коэффициентов сети. Эксперименты, с нейронными сетями, имеющими в качестве выходного сигнала – вектор (R,G,B) не показали каких либо преимуществ.

Желаемый выходной сигнал сети. При размере окна равном m (в пикселях), число примеров обучения будет равно m2, а желаемые выходы – это интенсивность компоненты пикселя в окне исходного изображения для данных координат (x;y) и текущего слоя (одного из R,G,B -слоев).

Ошибка сети. Как правило, для оценки качества обучения используется среднеквадратичная ошибка, которая рассчитывается по формуле: , (1), где yij – значение j-го сигнала сети при подаче на вход i-го образца из обучающего множества, dij – желаемый выход сети, N- число выходов сети (=1), M- число обучающих примеров. В данной задаче была введена дополнительная метрика качества обучения сети для данного окна, рассчитываемая следующим образом: увеличить окно с помощью нейронной сети, получив необходимое число промежуточных пикселей, затем уменьшить его до исходного размера при помощи усреднения и рассчитать разницу между исходным окном и «увеличено-уменьшенным», эта разница и будет критерием качества обучения сети. Такая оценка лучше передает степень присутствия на увеличенном изображении артефактов, связанных с переобучением сети. Вычислять такую ошибку на каждом шаге неэффективно с точки зрения большого количества вычислений, поэтому оценка по «увеличено-уменьшенному» окну производится один раз на эпоху обучения. В дополнение, эта метрика не используется для вычисления градиента при обучении, поскольку используется как «контрольная», по причине отсутствия возможности выделения контрольной выборки.

Структура сети. Практика показала, что лучше всего использовать двухслойную сеть с одним скрытым и одним выходным слоем, и с числом нейронов в первом слое равном размеру окна. Для незначительного повышения точности можно увеличить число нейронов, но это ведёт к снижению быстродействия.

Метод обучения сети (настройки весовых коэффициентов). Опыты показали, что оптимальным методом обучения (быстродействие/качество) является Levenberg Marquardt (LM). Cравнение проводилось с QuicProp, RPROP, и таким сравнительно новым алгоритмом обучения, как обучение с применением фильтра Калмана – EKF, DEKF [7]. Алгоритм с применением фильтра Калмана, действительно, имеет лучшую сходимости, чем LM, но, к сожалению, быстро «зависает» в локальном минимуме. Кроме этого для улучшения интерполирующих свойств нейронной сети мы ввели регуляризационный член в алгоритмах обучения, т.е. обновление весов проводится по правилу: , (2), где - параметр регуляризации. Т.е. перед изменением весов, мы уменьшаем их значения на небольшую величину (в западной литературе, эта техника называется weight decay).

Для большинства задач оптимальное значение параметра равно 0.001. Если на изображении много шумов, то его можно увеличить до 0.005. Если изображение относительно «чистое», то может быть равно 0, а степень фильтрации шумов можно регулировать за счёт выбора размера окна.

Важно отметить тот факт, что если вовремя не остановить обучение, сеть начинает запоминать примеры, ухудшаются обобщающие свойства. Обычно для контроля переобучения используется метод перекрёстной проверки (cross-validation), сущность которого заключается в следующем: обучающее множество делится на два подмножества: оценивания (используется непосредственно в обучении) и проверки, через определённое количество эпох обучение останавливается и сеть тестируется на проверочном множестве, если на проверочном множестве среднеквадратическая ошибка достигла минимума, то обучение останавливается. В нашем случае нельзя разбивать обучающее множество на два (слишком мало число примеров), поэтому была разработана схема, схожая с методом перекрёстной проверки: через определённое число эпох получить увеличенное изображение окна, уменьшить увеличенное изображение окна, сравнить с исходным, если разница меньше порога или начинает расти, то выход.

Объединение сигналов сетей для разных окон. Так как на результирующий пиксель может быть несколько кандидатов (из разных окон), мы должны выбрать, как агрегировать результаты, чтобы не было границ между окнами. Понятно, что в каждом окне поверхность интерполяции своя, поэтому цвет одного и того же пикселя будет различаться. Вначале были исследованы следующие методы агрегирования результатов: среднеарифметический, медианный, первый по счёту, последний по счёту, средний по счёту. Все они не дают приемлемого результата, на изображении, особенно если оно увеличивается во много раз, проявляются чёткие границы квадратиков, хуже отфильтровываются шумы. Для агрегирования результатов был разработан метод “Взвешенная сумма”, суть которого заключается в следующем: при использовании скользящего окна, если шаг меньше размера окна, на результирующий пиксель будет претендовать несколько кандидатов из разных окон. Цвет результирующего пикселя рассчитывается по следующей формуле: , (3), где N- число претендентов на результирующий пиксель, Wj - весовой коэффициент претендента. Wj - должен быть тем меньше, чем дальше пиксель находится от центра окна. Мы выбрали экспоненциальную зависимость: , (4), где d – расстояние пикселя от центра окна, sigma – параметр, который определяет плавность стыковки окон.

При уменьшении sigma изображение более размыто, а при увеличении sigma изображение становится чётче, но могут появиться артефакты. Наиболее оптимальное значение параметра sigma лежит в диапазоне от 0.1 до 0.01.

Так как агрегирование результатов проводится согласно формуле (3), шаг окна необходимо брать равным 1. Это позволяет достичь наилучшей фильтрации и точности интерполяции.

Решение большого числа проблем, связанных с применением нейронных сетей в интерполяции и фильтрации изображений позволило получить обещающие результаты, превышающие по субъективной оценке качество бикубической интерполяции. На рисунке 1 показано оригинальное изображение, на рисунке 2 – изображение, увеличенное алгоритмом бикубической интерполяции на 400%, на рисунке 3 – изображение, увеличенное с применением нейронных сетей на 400%. Сравнивая Рис. 2 и 3 визуально можно сказать, что применение нейронных сетей даёт более чистое изображение, хорошо отфильтровываются шумы. В частности, на Рис. 3 брови получились более ровными, глазное яблоко белее, и контуры зрачка более четкие. Однако и присутствуют артефакты, связанные с выбором для данного результата слишком большого показателя sigma=0.1. В таблице 1 показаны количественные характеристики качества увеличения изображения. Методика тестирования следующая: увеличенное изображение сравнивается с имеющимся оригиналом, из которого было изготовлено изображение, подвергающееся увеличению бикубической и нейросетевой интерполяцией.

Таблица 1. Количественные характеристики качества увеличения изображений

Метод увеличения

ErrR

ErrG

ErrB

ERRср

Adobe Photoshop

5.681804

5.579817

5.627738

5.629786

Нейронные сети

5.592407

5.480598

5.522665

5.53189

Рис. 1. Оригинальное изображение

Рис. 2. Изображение, увеличенное с помощью бикубической интерполяции (Adobe Photoshop).

Рис. 3. Изображение, увеличенное с помощью нейронных сетей

Анализируя полученные данные, можно сделать вывод, что применение нейронных сетей для интерполяции и фильтрации изображений является перспективным направлением. Однако возникает целый ряд проблем, решение которых позволяет добиться высокого качества увеличения изображения. Дальнейшее развитие этого направления включает решение задачи адаптивного выбора размеров и положений блоков, в зависимости от конфигурации участков изображения, решение проблемы слияния данных с сигналов нейронных сетей относящихся к разным окнам, повышение быстродействия (например, использование с использованием кластеров или технологии GPGPU [11]).

Литература

  1. /products.php

  2. /reviews/software/smartscale.shtml

  3. Галушкин А.И. Теория нейронных сетей. // Радиотехника, Москва 2000

  4. Галушкин А.И., Цыпкин Я.З. Нейронные сети: история развития теории. // Радиотехника, Москва. 2001

  5. Галушкин А.И. О современных направлениях развития нейрокомпьютеров.//Нейрокомпьютер 1,2, Радиотехника. 1997.

  6. Галушкин А.И Нейрокомпьютеры. // Радиотехника, Москва. 2002

  7. Саймон Хайкин, Нейронные сети: полный курс // Издательский дом “Вильямс”, 2006

  8. C.B. Atkins, C.A. Bouman, and J.P. Allebach. Optimal image scaling using pixel classification//In IEEE International Conference on Image Processing, volume 3, pages 864--867, September 2001.

  1. Staelin, Carl; Greig, Darryl; Fischer, Mani; Maurer, Ron Neural Network Image Scaling Using Spatial Errors, Technical Report HPL-2003-26R1 20031110.

  2. Richard T. Antony Principles of Data Fusion Automation // Artech House Publishers; 2nd edition (March 2004

  3. General Programming on Graphics Processing Units //



Цифровая обработка сигналов и ее применение 57

Digital signal processing and its applications



Скачать документ

Похожие документы:

  1. Нейрокомпьютерная обработка сигналов и изображений (2)

    Документ
    Проблема создания эффективных масштабируемых нейрокомпьютерных конфигураций является весьма актуальной в связи с расширением сферы применения нейросетевых технологий.
  2. Нейрокомпьютерная обработка сигналов и изображений (1)

    Документ
    As a rule, in neural network algorithms of digital signal processing (DSP) are used linear and sigmoidal activation functions (AF). However it is shown [1], that shape of AF significally influences as properties of DSP algorithm realized
  3. Нейрокомпьютерная обработка сигналов и изображений (3)

    Документ
    Одиночный датчик не всегда позволяет получить точную и надежную оценку внешнего параметра. Например, в задаче определения положения движущегося объекта [3], для измерения расстояния до препятствия и относительного положения объекта
  4. Нейрокомпьютерная обработка сигналов и изображений (4)

    Документ
    Two specific problems are taken into consideration: wind load in built up quarters prediction and aircraft control using ejection effects. The efficiency of proposed neural network methods is demonstrated.
  5. 14-я Международная Конференция цифровая обработка сигналов (1)

    Документ
    Члены оргкомитета: член-корр. Бабаян Б.А. (Россия), д.т.н. Борисов Ю.И. (Россия), академик Бугаев А.С. (Россия), проф. Вилкова Н.Н. (Россия), проф. Качорек Т.

Другие похожие документы..