Сенсоры цифровых камер. О цветоразделении и экзотическом байере

Используемые в цифровой фотографии . Фильтр Байера назван в честь его создателя, доктора Брайса Байера (англ. Bryce Bayer ), Сотрудника компании Kodak . Фильтр используется в фотосенсор цифровых фотоаппаратов , видеокамер и сканеров для получения цветного изображения.

Массив фильтра состоит из 25% красных элементов, 25% синих и 50% зеленых элементов. Поэтому его часто называют GRGB или RGBG.

Принцип работы

В результате использования фильтров каждый фотоприемник воспринимает только яркость только одного цветового компонента, другие два отсекаются фильтром. Для получения цветовых компонент используются значения из соседних ячеек, которые содержат информацию об отсутствующих цветовые составляющие, с помощью интерполяции (по алгоритму demosaicing) Итак, при считывании цветного изображения каждой предметной точки участвуют минимум три ячейки фотосенсора с потерями 2/3 цветовых компонент в каждом.

Из-за потери части информации в результате работы фильтра Байера, изображения более размытым, чем исходное. Для исправления процессор фотоаппарата повышает четкость изображения. Процесс искусственного повышения четкости называется Sharpening. Дополнительно, процессор может применить и другие операции: изменить контрастность, яркость, подавлять цифровой шум и т.д.. в зависимости от модели аппарата. Получение четких изображений прежде всего достигается увеличением количества пикселей сенсора . Поскольку вычислительная мощность процессора фотоаппарата ограничена, многие фотографы предпочитают делать эти операции вручную на персональном компьютере.

Последние модели профессиональных и полупрофессиональных цифровых фотоаппаратов позволяют записывать изображение в т. н. "Сыром" RAW -формате, где изображение записывается как набор яркости в каждом диоде, т.е. в черно-белом виде, не неся никакой цветовой формы, и в файл записываются данные, полученные прямо с матрицы, в процессе интерполяции формируют изображение на компьютере, с возможностями ручного управления параметрами преобразований.

В настоящее время для получения цветной фотографии свет от объекта запоминается как сумма минимум трех цветов - красного, зелёного и синего, цветовая модель RGB. Так как по своей природе фотодетекторы матрицы чувствительны во всем видимом диапазоне спектра, то над каждым матрицы размещается цветной одного из трёх основных цветов - красного (R), зелёного (G) и синего (B). Таким образом, каждая ячейка матрицы воспринимает только 1/3 часть приходящего , а другие 2/3 рассчитываются процессором камеры на основе данных соседних ячеек. Этот процесс называется . В классическом фильтре Байера применяются светофильтры трёх основных цветов в следующем порядке:

При этом получаются три цветовые составляющие:

Таким образом, мы получили изображение, каждый пиксель которого содержит только одну цветовую составляющую. Далее, процессор камеры должен, используя специальные математические методы интерполяции, рассчитать для каждой точки недостающие цветовые составляющие. В результате получается следующее изображение:

Как видно на картинке, это изображение получилось более размытым, чем исходное. Такой эффект связан с потерей части информации в результате работы фильтра Байера. Для исправления процессор фотоаппарата должен повысить чёткость изображения. Процесс искусственного повышения чёткости называется Sharpening . Дополнительно, в этот момент процессор может применить и другие операции: изменить контрастность, яркость, подавлять и т. д. в зависимости от модели аппарата. Так как вычислительная мощность процессора фотоаппарата ограничена, многие фотографы предпочитают делать эти операции вручную на персональном компьютере. Чем дешевле фотоаппарат, тем меньше возможностей повлиять на эти функции. В профессиональных фотокамерах они отсутствуют совсем, либо их можно выключить.

Последние модели профессиональных и полупрофессиональных цифровых фотоаппаратов позволяют записывать изображения в т. н. «сыром» RAW-формате, когда изображение не подвергается внутри камеры вообще никакой обработке, а в записываются данные, полученные напрямую с матрицы, т. е. процесс интерполяции, повышение чёткости, подавление шума и другие операции с изображением выполняются на компьютере, обладающем намного большей вычислительной мощностью и возможностями ручного управления параметрами преобразований.

Альтернативы, достоинства, недостатки

Альтернативой фильтру Байера являются три матрицы с системой дихроичных зеркал или дихроичных призм. Зеркала раскладывают свет на составляющие (красный, зелёный, синий), после чего каждая из составляющих идёт на свою матрицу. Такая конструкция применяется в некоторых , но не встречается в фотоаппаратах.

Достоинства фильтра Байера:

• простота и компактность;
• к трёхматричной системе невозможно присоединить ;
• для обеспечения сходного качества изображения нужно меньше пикселей. В частности, трёхмегапиксельная камера с фильтром Байера даёт заметно лучшее изображение, чем камера с тремя матрицами по 1 Mpx;
• в трёхматричной схеме есть проблема сведения цветов.

Достоинства трёх матриц:

• лучше передача цветовых переходов, полное отсутствие цветного ;
• выше светочувствительность.

Также иногда применяются CYGM-фильтры:

Такой фильтр даёт бо́льшую светочувствительность, но худшую цветопередачу.

Проблемы, присущие фильтрам Байера, призвано решить новое поколение цифровых светочувствительных матриц - компании , в которых каждый пиксель состоит из трёх слоев, каждый из которых воспринимает свой цвет. Однако, в настоящее время (начало 2005 года) эти матрицы, в силу присущих им других технических недостатков (например, высокого уровня ), занимают незначительную часть рынка цифровой фототехники.

, видеокамер и сканеров . Фильтр Байера состоит из 25 % красных элементов, 25 % синих и 50 % зелёных элементов, расположенных как показано на рисунке.

Исторически это самый первый из массивов цветных фильтров. Назван по имени его создателя, доктора Брайса Э. Байера (англ. Bryce Bayer ), сотрудника компании Kodak , запатентовавшего предложенный им фильтр в 1976 г. Для отличия от других разновидностей его называют GRGB , RGBG , или (если надо подчеркнуть диагональное расположение красного и синего пикселов) RGGB .

Принцип работы

Матрица является устройством, воспринимающим спроецированное на него изображение. Поскольку полупроводниковые фотоприёмники примерно одинаково чувствительны ко всем цветам видимого спектра, для воспринятия цветного изображения каждый фотоприемник накрывается светофильтром одного из первичных цветов: красного, зелёного, синего (цветовая модель RGB).

Вследствие использования фильтров каждый фотоприемник воспринимает лишь 1/3 цветовой информации участка изображения, а 2/3 отсекается фильтром. Для получения остальных цветовых компонентов используются значения из соседних ячеек. Недостающие компоненты цвета рассчитываются процессором камеры на основании данных из соседних ячеек в результате интерполяции (по алгоритму demosaicing). Таким образом, в формировании конечного значения цветного пикселя участвует 9 или более фотодиодов матрицы.

В классическом фильтре Байера применяются светофильтры трёх основных цветов в следующем порядке:

При этом фотодиодов зелёного цвета в каждой ячейке в два раза больше, чем фотодиодов других цветов, в результате разрешающая способность такой структуры максимальна в зелёной области спектра, что соответствует [ ] особенностям человеческого зрения.

Изменения в структуре расположения

Для снижения заметности артефактов дебайеризации были разработаны модифицированные фильтры Байера, содержащие изменения, «разбавляющие» однородную периодическую структуру «неправильным» расположением части цветных пикселей. Вместо минимального 4-пиксельного элемента матрицы повторяется 12- или 24-пиксельный. Однако они не нашли массового применения из-за значительного роста необходимой вычислительной мощности для обработки полученного изображения.

Пример применения

Сфотографируем исходный объект (для наглядности его часть увеличена):

→

При этом получаются три цветовые составляющие:

	↓
	↓

Таким образом, мы получили изображение, каждый пиксель которого содержит только одну цветовую составляющую одной из предметных точек, спроецированных на него объективом. И только 4 предметных точки, рядом расположенных и спроецированных объективом на блок пикселей RGGB, приближенно формируют полный набор RGB 1-й усредненной предметной точки. Далее, процессор камеры должен, используя специальные математические методы интерполяции, рассчитать для каждой точки недостающие цветовые составляющие. В результате получается следующее изображение:

Как видно на картинке, это изображение получилось более размытым, чем исходное. Такой эффект связан с потерей части информации в результате работы фильтра Байера. Для исправления процессор фотоаппарата должен повысить чёткость изображения. Процесс искусственного повышения чёткости называется Sharpening . Дополнительно, в этот момент процессор может применить и другие операции: изменить контрастность, яркость, подавлять цифровой шум и т. д. в зависимости от модели аппарата. Получение более чётких изображений в первую очередь достигается увеличением количества пикселей сенсора, что уменьшает его размытость. Так как вычислительная мощность процессора фотоаппарата ограничена, многие фотографы предпочитают делать эти операции вручную на персональном компьютере. Чем дешевле фотоаппарат, тем меньше возможностей повлиять на эти функции. В профессиональных фотокамерах функции коррекции изображения отсутствуют совсем либо их можно выключить.

Байеровская схема цветных светофильтров матрицы названа так в честь доктора Брайса Э. Байера (Bryce Bayer), научного сотрудника компании Kodak, кoтoрый в 1976 году запатентовал свою систему фильтров.

Фильтр Байера состоит из четырех светофильтров, которые расположены в следующем порядке: 1-й ряд - R-G, 2-й ряд - G-B, см. рис.1.

Рис.1. Байеровская схема расположения светофильтров.

Байеровская схема расположения цветных светофильтров в матрице.

Эту схему называют GRGB (зеленый - красный - зеленый - синий) или RGBG (чтобы подчеркнуть диагональное расположение красного и синего фильтров). Такая схема расположения фильтров называется аддитивной Байеровской схемой .

Фильтр Байера содержит 25% красных светофильтров, 25% – синих и 50% – зеленых.

Получается, что зеленых светофильтров больше, чем красных и синих. В чем причина такого расположения фильтров? Дело в том, что человеческое зрение более восприимчиво к зеленому цвету, пoэтoмy увеличение числа элементов чувствительных к этому цвету, а соответственно увеличение чувствительности матрицы в этой области спектра соответствует особенностям человеческого зрения. Второй причиной является тот факт что и ПЗС-элементы матрицы тaкжe более чувствительны к зеленому цвету.

В результате матрица выглядит кaк мозаика, состоящая из отдельных цветов, а кaк же получается цветная картина?

Для получения цветного изображения необходимо в каждом пикселе установить цвет, соответствующий действительности. Этим занимается электроника фотоаппарата, которая производит интерполяцию цветов. (Интерполяция известна в математике, где она используется для получения величин, значения, которых не определены, а получаются вычислением некого среднего значения из сравнения c рядом расположенными).

Как работает алгоритм интерполяции в расчете цвета конкретной ячейки? Возьмем к примеру ячейку c зеленым светофильтром. В такой ячейке получается информация только о яркости зеленой составляющей света. Однако в соседних пикселах, окружающих данный зеленый имеется пара пикселей синего цвета и пара - красного. Вычисляются средние значения каждого из этих цветов и считается, что эти средние значения соответствуют реальным величинам каждой составляющей света для данной ячейки. (В действительности эти величины если и будут отличаться от реальных то весьма незначительно, для глаза совершенно незаметно.) Затем вычисленные значения цветов красного и синего добавляются к зеленому и получается реальный цвет данного пиксела.

Однако если при расчете интерполяции использовать только близлежащие элементы, то такой расчет оказывается недостаточно точным и приводит к искажениям изображения в виде цветного муара. В идеале для расчета необходимо учитывать более 10 точек. Но при этом резко возрастают требования к процессору фотокамеры и к увеличению объема запоминающего устройства (ОЗУ).

Для того, чтобы уменьшить объем вычислительных ресурсов фотокамеры, была разработана так называемая модифицированная Байеровская схема. В этой схеме в качестве опорной группы используются не 4 элемента, а 12 или 24 (см. рис. 2) . Расположены эти элементы псевдослучайным образом, что уменьшает склонность к диагональному муару.

Рис.2. Модифицированная Байеровская схема расположения светофильтров.

Правда в этом случае расположение элементов должно храниться в памяти вычислительного устройства и использоваться при восстановлении цвета.

Кроме описанных Байеровских схем используется тaкжe субтрактивная Байеровская схема. Она использует цветовую модель CMYG (голубой-пурпурный-желтый-зеленый). В данном случае к обычной модели CMYK добавлен еще зеленый цвет по причинам описанным выше (повышенная чувствительность глаза к зеленому цвету и более высокая чувствительность ПЗС-элемента).

В некоторых случаях в этой схеме половину зеленых элементов заменяют сине-зелеными, отличающимися более темным оттенком, чем голубой (cyan) цвет.

Причины применения таких схем Байеровских фильтров заключаются в технологии создания светофильтра в матрице. А фильтры эти создаются путем напыления тонких пленок нa поверхность пиксела. Пленки создаются из CMYK красителей. Для создания фильтра RGB-модели необходимо напылять по две пленки: для создания красного светофильтра необходимо использовать красители пурпурный и желтый, для создания синего - пурпурный и голубой, для зеленого - желтый и голубой (См. рис.3)

Рис.3. Цветовая модель CMYK.

Использование модели CMYK позволяет обходиться однoй пленкой, что пoвышaeт светопроницаемость фильтра и спoсoбствyeт повышению чувствительности матрицы. Правда в данном случае повышается сложность расчета цветов, получаемых такими матрицами, кроме того следует учесть, что c помощью RGB-модели мoжнo получить больше оттенков, чем в модели CMYK.

Для лучшего понимания того, что же такое фильтр Байера, просмотрите рисунки, представленные ниже.

Из всeгo сказанного выше становится ясно, что в отличие от пленочной фотографии, где изображение получается в результате объективных физико-химических процессов, протекающих в пленке, фотобумаге и т.д., цифровая фотография является плодом обработки цифровыми устройствами, то есть продуктом электроники.

Кажись, Фуджа-то наигралась с экзотическим байером:)

А давайте-ка сегодня поговорим немного о системах цветоразделения и вариантах байера - история интересная.

Вообще самый качественный вариант цветоразделения - 3 матрицы с дихроической призмой - 3CCD . Здесь и далее картинки натырены из Википедии.

Активно применялся и применяется в видеокамерах. Для фотокамер этот способ малоприменим - дело в том, что практически невозможно чисто механически совместить три изображения на трех отдельных сенсорах настолько точно, чтобы получить разрешение хотя бы в несколько мегапикселей. Кроме того, конструкция получается довольно громоздкой. Поэтому решение используется только в видеокамерах.

Второй вариант - многослойные сенсоры, которые по структуре в чем-то имитируют цветную фотопленку. Самый известный пример - сигмовский X3 Foveon . Принцип действия такого сенсора основан на том, что свет с разными длинами волн проникает в кремний на разную глубину.

Поскольку нет мозаики байеровского фильтра, то не нужна интерполяция, и разрешение картинки получается по-настоящему честным.
Но у фовеона свои проблемы, в частности искажение цвета из-за метода цветоразделения, особенно в красном канале, который на сенсоре лежит в самом низу, и до него доходят лучи, искаженные предыдущими двумя слоями. Все эти искажения приходится исправлять с помощью матричных профилей, из-за чего сильно растут шумы, деградирует картинка.
Камеры Sigma достаточно дороги и в целом коммерческим успехом не пользуются. Хотя у Фовеона множество приверженцев-энтузиастов.

Третий и самый популярный вариант - классический байеровский фильтр и его вариации.
Принцип действия фильтра прост - поверх ячеек лежит мозаика из цветных фильтров, пропускающих лучи разного цвета. Получается три ЧБ канала, каждый из которых отражает яркость лучей, прошедших через свой цветной фильтр. При обработке вся эта информация из трёх черно-белых каналов интерполируется в конечное цветное изображение.

На самом деле, можно считать, что у байера четыре канала, потому что зеленых ячеек вдвое больше, чем красных или синих. Это связано с тем, что зеленый канал наиболее важен для человеческого зрительного аппарата и несет для нас наиболее полезную яркостную информацию. Тогда как синий и красный каналы по сути являются цветоразностными.
У байера есть свои недостатки. В первую очередь это недостаточное цветовое разрешение итоговой картинки - поскольку она всегда является плодом интерполяции. Сейчас RAW-конвертеры научились более-менее сносно интерполировать недостающую информацию, однако все равно тот же 4-мегапиксельный Фовеон по разрешающей способности приравнивают к 10-мегапиксельному байеру - и не зря. Простейшую геометрию не обманешь никакими алгоритмами. Поэтому пришлось наращивать мегапиксели и упираться в дифракцию.

В разное время в истории развития цифровых камер появлялись разного рода "экзотические" вариации байеровского фильтра.

Например, в начале 2000-х Sony сделала вариант RGBE (E for Emerald), где половина зеленых ячеек заменена изумрудными:

Вроде бы как это позволило значительно улучшить цветопередачу и приблизить ее к тому, как цвет воспринимается человеческим глазом.
Рассматривая семплы со знаменитой в свое время камеры Sony F-828, в принципе я могу сказать, что цвет у нее неплохой, но принципиальных отличий от современных камеры с обычным байером я не вижу, если честно.

Технология RGBE использовалась Сони недолго, и они вернулись к улучшению традиционного байера.

В конце 90-х также появились сенсоры с байером, основанном на инвертированном наборе первичных цветов - CYGM (cyan, yello, green, magenta). Вот оказывается даже такое было.

Использовались такие сенсоры в некоторых компактах Кэнона и Никона, а также у Кодака, на рубеже 90-х и 2000-х годов.
Основной плюс такого фильтра в том, что он очевидно более "прозрачен", чем классический байеровский. То есть его светопропускание значительно выше, значит можно увеличить чувствительность сенсора и расширить динамический диапазон.
Но все это происходит в ущерб качеству цветоразделения, поскольку каждый фильтр пропускает сравнительно широкую полосу спектра, и разделить соседние оттенки при этом довольно трудно.
Поэтому фотографии с таких камер получались довольно "тухлые" по цвету, и даже агрессивная обработка тут не помогала - что матрица не захватила, то можно только нафантазировать.

Эта технология по вполне понятным причинам тоже долго не прожила.

За несколько лет до своего банкротства в 2007-м году Кодак успел запатентовать еще один вид байера, где половина зеленых ячеек были сделаны совершенно прозрачными. В нескольких вариациях.

Ячейки без фильтров должны по идее улучшить общую чувствительность сенсора.
Пошли такие сенсоры в какие-то реальные модели камер или не пошли - мне лично не известно. Скорее всего на их основе делаются высокочувствительные сенсоры специального назначения.

В течение почти десяти лет Фуджи делала камеры на основе собственной технологии байера "EXR" в нескольких вариациях.

Ячейки в таком сенсоре расположены по диагонали, что позволяет объединять соседние ячейки одного цвета для получения большей чувствительности. Кроме того, при таком расположении ячеек возможны более сложные структуры, позволяющие часть ячеек экспонировать сильнее, а другую часть - слабее, получая больший динамический диапазон.
На основе технологии Фуджи сделали два вида сенсоров CCD (SuperCCD), в которых за счет такой структуры не только повышается разрешение, но и за счет дополнительных маленьких ячеек с низкой чувствительностью можно получить расширенный динамический диапазон.

SuperCCD продержался аж до 2010 года в разных моделях камер Фуджи, но позже все равно уступил место BSI (back side illuminated) CMOS, но с диагональным байером.

Проблема любого байеровского фильтра в том, что он склонен после интерполяции давать цветной муар на периодических структурах. По сути это биение частот, а цветной рисунок возникает как раз именно из-за чередования цветных ячеек на байере. Чтобы уменьшить этот эффект, в 90% камер перед сенсором ставят специальный фильтр "АА" (anti alias), который по сути размывает изображение. Естественно при этом сильно теряется и без того невысокое разрешение изображений, получаемых путем интерполяции, но зато в какой-то степени уходит муар.

Поэтому Фуджи придумали особый вид байера X-Trans CMOS, который якобы должен уменьшить возможность появления муара и позволить безбоязненно делать сенсоры без АА-фильтра. Новый байер выглядит вот так:

Такая мозаика байеровского фильтра, по мнению Фуджи, должна давать большее яркостное и цветовое разрешение, препятствовать появлению муара и давать более "пленочное" зерно за счет того, что в каждом ряду ячеек теперь есть все три цвета, а их расположение как бы более хаотичное, подобно зерну на пленке.
Муара на таком сенсоре действительно не будет, но что касается разрешения, то вопрос крайне спорный.
Ведь, если задуматься, на классическом байере зеленые ячейки, дающие основную яркостную информацию, расположены более "равномерно", не сгруппированы в крупные квадраты 2х2, и, соответственно, яркостное разрешение должно быть несколько выше.

На самом деле, чисто на практике никаких особых преимуществ перед обычным байером X-Trans не показал. В целом разрешающая способность такого сенсора примерно на уровне традиционных аналогов, никакого особого "теплого лампового зерна" я не заметил.
А вот при обработке RAW-файлы с экзотического байера доставляют головную боль. Дело в том, что поначалу вообще ни один конвертер, кроме родного фуджевского, адекватно не интерпретировал такую мозаику. Да и позднее, когда тот же Adobe сделали апдейт и улучшили интерполяцию, результат ничем не лучше обычного байера, а может быть в каких-то ситуациях даже и хуже.
Лично я обращал внимание на отчетливую "пунктирность" всяких вертикальных элементов изображения - очевидно, из-за крупных 2х2 зеленых ячеек.

Кстати, та же самая ситуация наблюдается с их старым SuperCCD, который до сих пор никто толком не умеет правильно интерполировать.

Так получается, что традиционный байер пока что дает самый надежный и удобный для интерпретации результат, проверенный временем.
Возможно именно поэтому Фуджи сейчас на беззеркальной камере нижнего сегмента решила обкатать свежий сенсор с обычным байером, безо всяких выкрутас. Наигрались?