НОУ ИНТУИТ | Инструктивный синтез нанометровых вычислительных структур. От задач к вычислительным моделям и структурам . Лекция 6: Базовые положения теории многофункциональных логических модулей

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 03.04.2013 | Доступ: свободный | Студентов: 354 / 30 | Длительность: 34:17:00

Темы: Искусственный интеллект и робототехника, Программное обеспечение, Нанотехнологии

Специальности: Разработчик аппаратуры

Теги: наноэлектроника, нейрокомпьютеры, нейроны, отказоустойчивость, нейрокибернетика

|

Вам нравится? Нравится 21 студенту

| Поделиться |

Поддержать курс

| Скачать электронную книгу

Аннотация: В лекции показана принципиальная возможность использования в вычислительной технике упрощенных аналогов механизмов конвергентного замыкания.

Ключевые слова: ВС, выход, адаптация, множества, отображение, устойчивость, реакция, нейроподобный элемент, мощность, входной, класс, функциональная схема, компонент, вариация, пространство, дискретизация, ОЗУ, дешифратор, коммутатор, минимум, место, функция, отношение, адаптивная система, объединение, пересечение, подмножество, значение, отношение эквивалентности, формальная модель, модуль, единица, вектор, разбиение, размерность, ОКОД, ОКМД, поток инструкций, избыточность, Дополнение, теорема Шеннона, регистр, взаимно однозначное отображение, затраты, отождествление, первообразная, Вычислительный элемент, входные аргументы, исключение, алгоритм, ассоциация, нейрон, Произведение, группа, входной алфавит, механизмы, произвольное размещение, интерпретатор, сеть, инвертор, регистр управления, представление, автомат, ассоциативность, АЛУ, операции, вес, NAND, переменная, эквивалентность, инструкция пользователя, функция пользователя

5.1. Методы структурно-параметрической адаптации многофункциональных логических модулей

Одна из центральных проблем построения (Б)ВС на основе "большого" ( $10^{5}-10^{6}$ ) количества вычислителей состоит в поиске эффективных методов и средств управления и координации работы всего коллектива и каждого его члена [104-106]. К сожалению, теория многофункциональных дискретных модулей (МДМ) [68, 71, 101, 107, 108] основное внимание сконцентрировала на оценке функциональных возможностей, анализе и синтезе схем из МДМ, а теория адаптивных систем [109-111] основное внимание уделяет исследованию сходимости и эффекти вности алгоритмов оптимизации. В связи с этим, прежде всего рассмотрим суть процесса адаптации МДМ и ответим на вопрос: что происходит в процессе управления дискретным объектом? Покажем на ряде примеров, что адаптация непрерывных и дискретных объектов представляет собой процесс устранения, а в общем виде ослабления неоднозначности в отображении "вход-выход", реализуемом объектом адаптации.

Адаптация в живой природе прежде всего предполагает устранение (ослабление) неоднозначности реакции организма на повторяющиеся события внешнего мира [25]. В частности, при выработке условных рефлексов у животных и человека устанавливается однозначное соответствие между опережающим стимулом и последующей реакцией, в формировании которого участвует сложная функциональная система, создаваемая организмом для достижения полезного приспособительного эффекта в конкретных метастабильных условиях внешней среды (см. раздел 4.3). Поэтому можно сказать, что при выработке условных рефлексов и других более сложных устойчивых форм поведения [25, 112] организм выбирает из множества входных воздействий наиболее информативные и "устойчивые" и ставит им в соответствие наиболее адекватные и достаточно однозначные для данных условий проведения поведенческих актов.

Неоднозначность в живых системах устраняется (ослабляется) начиная с сенсорного уровня, то есть в процессе активного восприятия [113] звуковых, зрительных, тепловых и т. п. сигналов и образов. Заимствованный из [32] рис. 5.1 иллюстрирует: до задания пунктирных линий (рис. 5.1-а) допускается двойственное восприятие пространственного положения куба (рис. 5.1-б и 5.1-в).

Рис. 5.1. Неоднозначное восприятие пространственного положения куба

В моделях формальных нейронов и в перцептронах [68, 71, 108] проблема устранения неоднозначности при переходе от реальных к формальным переменным не стоит, так как в технических системах "восприятие" осуществляется через датчики, которые работают с ограниченной точностью, чувствительностью и при наличии внутренних и внешних шумов. Поэтому датчик, как и любая измерительная система, ставит в соответствие множеству входных воздействий $\{x_{i}{\pm}{\Delta}x_{i}\}$ множество выходных реакций $\{y_{i}{\pm}{\Delta}y_{i}\}$ , а неоднозначность, как правило, устраняется усреднением значений по этим множествам. В результате вместо отображения $\{x_{i}{\pm}{\Delta}x_{i}\}\}$ $\{y_{i}{\pm}{\Delta}y_{i}\}$ используется отображение $\bar{х}\to\bar{y}$ ,где $\bar{x}_i$ , $\bar{y}_i$ - соответствующие средние.

В вычислительной технике до задания управляющих воздействий на операционное устройство также невозможно говорить об однозначном соответствии между его информационными входами и выходом. Однако здесь картина размывается тем обстоятельством, что разработчики МДМ принимают специальные схемотехнические меры, исключающие "неоднозначные" состояния. Тем не менее и в этом случае отказы и неисправности приводят к неоднозначным отображениям типа "вход-выход". Поэтому имеются достаточные основания рассматривать адаптацию широкого класса технических и биологических систем как процесс устранения (ослабления) неоднозначности в выполняемых ими отображениях "вход-выход".

Определим типы преобразований, которые лежат в основе моделей адаптивных процессов такого типа.

Из приведенных примеров видно, что существует большое разнообразие способов и приемов устранения или хотя бы ослабления неоднозначности. В классических адаптивных [110, 111] и кибернетических системах [14, 17, 72, 114] неоднозначность преимущественно устраняется на основе метрических соотношений. Поэтому в моделях таких систем используются метрически транзитивные преобразования, то есть преобразования, сохраняющие меру [14]. При управлении дискретными системами функциональная устойчивость уже зависит не столько от метрических соотношений во входных воздействиях и реализуемых преобразованиях, сколько от сохранения отношения эквивалентности, так как реакция таких систем определяется принадлежностью каждого входного воз действия некоторому подмножеству, однозначно связанному со значением алфавита выходной реакции системы.

Наиболее четко отмеченная разница между моделями непрерывных и дискретных систем проявилась при исследовании перцептронов [108, 110] и многопороговых элементов (МПЭ) [78-80, 115], которые были одними из первых технически реализованных нейроподобных элементов.

Воспользуемся импликативной формой записи МПЭ раздела 4.6:

$L(X^{s}_{n},W_n):X^{s}_{n} \to(l_{s}(X^s_n,W_{n}) = \sum_{i=1}^{n}{x_i^s*w_{i}}) \in (h_{j-l},h_j]\Rightarrow f_{s}:= b_j, (5.1)$

( 5.1)

где:

$L(X^{s}_n ,W_n)$ - оператор линейной свертки компонент входного вектора $X^{s}_n =(x^{s}_n , x^{s}_{n-1}, x^{s}_{1} )$ (заданы на целочисленной решетке $x^s_n \in \{a_i\}$ , $i = \ovarline{1,n}$ ; $|\{а_i\}| = q_{i}$ ; $s = \overline{0,Q}$ ; $Q= \prod_{i=1}^{n}{q_{i} -1$ ;) и компонент весового вектора $W_n = (w_n , w_{n-1},…, w_1)$ , $(w_i \in (-\infty ;+ \infty))$
$H_{\chi} = (h_1, h_2,…,h_{\chi})$ - вектор порогов размерности у, компоненты которого разбивают скалярную ось на $({\chi}+1)$ пороговых полуинтервалов ( $(h_{j-1},h]$ , $h_{j}\in (-\infty,+ \infty)$ ; $k-1 \le \chi \le Q$ );
реализуемая МПЭ произвольнозначная логическая функция (ЛФ) имеет вид:
$F_{\alpha}(X_n^s)=(f_0, f_1,\ldots,f_s,\ldots,f_Q),$ ( 5.2)

у которой: $f_s\in\{b_j\}$ , $| \{bj\}\ = \gamma$ , $\gamma = 1,k$ ; $М_F = | \{F_{a}\}| = k^{Q+1}$ ; $\alpha = \ovarline{0,M_{F} -1}$ .

Соотношение (5.2) задает не только произвольнозначную ЛФ, но и произвольную дискретную функцию (ДФ), полностью определенную на всех -наборах входных переменных, причем мощность q_i множества значений каждой входной переменной может быть произвольной. При равнозначных входных переменных $(q_n = q_{n- 1} = … = q_1 = q)$ мощность множества входных векторов $|\{X^{s}_n\}| = Q-1 = q^n$ , мощность множества -значных ЛФ (или ДФ) $M_F = k^{Q+1}$ , а при k = q = 2 имеем класс -мерных булевых функций мощности $M_{F} = 2^{2^n}.$

Это говорит о применимости (5.1) как на макроуровне при описании систем распознавания образов (перцептронный подход), так и на микроуровне при описании работы МПЭ.

Отвечающая (5.1) функциональная схема МПЭ включает (рис. 5.2-а):

входной преобразователь $L(X^{s}_n ,W_n)$ , где реализуется отображение вектора $X^{s}_n$ на скалярную ось
внутренний преобразователь $\Lambda:\{l_{s}\}\to\{\{l_{s}\}_j\}$ , где реализуется разбиение всего множества значений свертки $\{l_{s}\}$ на $(\chi+1)$ подмножеств, таких, $\cup\{ l_{s} \} _{j}= \{l_{s}\}$ ; $\{l_{s} \} _{j}\cap\{ l_{s} \}_{\tilde{j}}= \varnothing$ при $j\ne\tilde{j}$ и $l_{s}\in\{ l_{s} \}_{j}$ , если $h_{j-1} < l_{s} \le h_{j}$ (здесь $\varnothing$ - "пустое" множество, а объединение - $\cup$ и пересечение - $\cap$ подмножеств берутся по индексу );
выходной преобразователь, где реализуется размещение (возможно и с повторениями) значений ЛФ над $(\chi+1)$ пороговым полуинтервалом: $A:(l_{s} \in\{l_{s}\}_j )\to f_s: =b_{j}$ .

Рис. 5.2. Структурно-функциональные схемы МПЭ

В разделе 4.6 проанализированы условия эквивалентного перехода от МПЭ с аналоговыми параметрами ( W_n и $H_{\chi}$ ) к МПЭ с дискретными параметрами и показано, что перестройка входного преобразования МПЭ связана с вариациями $\delta W = \{delta w_{i} \}$ весового вектора и приводит к различным $\beta$ -перестановкам упорядоченных компонент свертки на скалярной оси . В результате полная вариация весового вектора W_n порождает множество $\{\beta\}$ перестановок значений компонент свертки и связанных с ними индексов , которое разбивает все пространство W_n на классы эквивалентности (индексные зоны - ИЗ) $\Delta W_{\beta} \subset W_{n}$ , такие, что вариации внутри класса $\delta W \in \Delta W_{\beta}$ , не нарушают связанного с этим классом отношения порядка между значениями свертки.

Такая дискретизация непрерывного пространства W_n позволяет представить (рис. 5.2-б) входной преобразователь $L(X^{s}_n,W_n)$ полным, перестраиваемым по W_n дешифратором входных сигналов $(x^{s}_i)$ , внутренний преобразователь $\Lambda$ - многоуровневым (перестраиваемым по $H_{\chi}$ ) компаратором, выходы которого адресуют ячейки памяти, где хранятся соответствующие значения ЛФ (или ДФ) $\{b_{j} \}$ .

Если в качестве памяти выбрать ОЗУ произвольной выборки, а полный дешифратор и компаратор заменить эквивалентным "стягивающим" дешифратором, то получим (рис. 5.2-в) типичную схему ассоциативного ЗУ (АЗУ), адресуемого содержимым $X^{s}_n$ [46, 116].

Дискретные дешифраторы можно перестраивать как структурно (рис. 5.3), так и параметрически (рис. 5.4). В первом случае добиться требуемой реакции дешифратора можно как заменой базисных элементов, так и модификацией схемы их соединения, то есть модификацией самой схемы. Во втором случае схема дешифратора остается неизменной, но в нее необходимо ввести полный коммутатор, а управление законом коммутации осуществлять с помощью двоичного вектора W_n .

Рис. 5.3. Структурно адаптируемые дешифраторы

В любом случае для устойчивой реализации заданной функции $F_{\alpha}$ вида (5.2) как минимум необходимо сохранить отношение порядка (при фиксированном правиле разбиения в непрерывном случае $\{l_{s}\}_j$ и правиле подстановки $\{l_{s} \}\to b_j$ и дискретном случае $\{s\}_j$ и $\{s\}_{j}\to b_j$ соответственно).

Рис. 5.4. Параметрически адаптируемый дешифратор

Напротив, при перестройке МПЭ с одной функции на другую необходимо:

либо перейти в другую ИЗ, изменив тем самым отношение порядка между значениями компонент свертки $\{l_{s}\}$ ,
либо изменить правила разбиения упорядоченного множества значений свертки $\{l_{s}\}$ на подмножества $\{l_{s}\}_j$ ,
либо модифицировать правила подстановки $\{l_{s} \}_{j}\to b_{j}.$

Отсюда, в классических МПЭ фактически используется три типа преобразований, которые инвариантны непрерывному или дискретному характеру изменения значений реализуемых аргументов и функций: перестановки входных векторов или их скалярных "представителей", разбиения множества значений входных векторов или их "скалярных представителей" на классы эквивалентности и подстановки значений заданной функции над классами эквивалентности. Поэтому специфика адаптации дискретных систем состоит в том, что в них неоднозначность в отображении "вход-выход" устраняется не на основе преобразований, сохраняющих меру, как это имеет место в классических кибернетических системах, а на основе преобразований, сохраняющих отношение, которое задает на множестве значений своих аргументов реализуемая объектом адаптации функция.

Определим взаимоотношение двух классов преобразований: сохраняющих меру и сохраняющих отношение, и на этой основе покажем, что методы управления непрерывными адаптивными системами не всегда пригодны для управления дискретными адаптивными системами.

Из элементарной алгебры известно:

Знак неравенства не изменится, если обе его части умножить на одно и то же положительное число (масштабирование).
Знак неравенства не изменится, если к обеим его частям прибавить одно и то же число (линейный сдвиг). Свойством сохранения порядка обладают и нелинейные преобразования.
Два неравенства одного и того же знака можно складывать почленно, отчего знак неравенства не изменится (нелинейный сдвиг). Покажем справедливость утверждения 5.1: множество преобразований, сохраняющих меру и сохраняющих отношение, пересекаются только частично.

Пусть задано конечномерное пространство $\{X^{s}_n\}$ векторов $X^{s}_n$ , определенных в (5.1). Функция $\mu(X^{s}_n)$ называется мерой, если [117]:

область ее определения является полукольцом множеств $\{X^{s}_n\}_{\alpha}$ ;
значения функции действительны и положительны;
эта функция аддитивна, то есть для любого разбиения
$\{ X_n^s \}\bigcup_{\alpha}\{X_n^s\}_{\alpha}, (\alpha=\overline{1,m})$

выполняется равенство

$\mu(\{X_n^s\})-\sum_{\alpha}\mu(\{X_n^s \}_{\alpha})$ , где $\{ X_n^s \}_{\alpha_1}\cap\{ X_n^s \}_{\аlpha_2}=\varnothing$ при $\аlpha_1 \ne\аlpha_{2}$ .

Здесь символами $\nothing$ , $\cup$ , $\cap$ обозначены соответственно множество "пусто", теоретико-множественное объединение и пересечение.

Квадратом $A = \{X_n^{s(1)}\} * \{X_n^{s(2)}\}$ называется множество упорядоченных пар $\{X_n^{s}^{(1)}, X_n^{s(2)}\}$ , где $X_n^{s (1)}$ и $X_n^{s(2)} \in\{X_n^{s}\}$ . Пусть - подмножество квадрата ( $R\subset A$ ). Тогда говорят, что элемент $X_{n}^{s(2)}$ находится в отношении к элементу $X_n^{s(1)} (X_n^{s(2)} R X_n^{s(1)} )$ , если пара $(X_n^{s(2)} , X_n^{s(1)})\in R$ .

Из определения меры и отношения следует, что их можно задать на одном и том же векторном пространстве одновременно и независимо друг от друга.

Для определенности будем считать:

$\mu(\{X_n^s\}) = \sum_s{d_{s}},$

( 5.3)

где $d_s = |\sqrt{\sum_i{(x_i^s)^2}}|$ - абсолютное значение длины вектора $X_^{s} (d_s \ge 0)$ ;

$X_n^{s(1)} < X_n^{s(2)}, \text{ если } l^{s(1)} < l^{s(2)},$

( 5.4)

где $l^{s} = \sum_{i=1}^n{x_i^s*w_i}$ и 0 < w_1 < w_2 < … < w_n .

Говорят, что преобразование сохраняет меру $\mu$ , если $\mu[Ф(X_n^{s})] = \mu(\{X_{n}^{s}\})$ , а преобразование сохраняет отношение , если $[Ф'(X_{n}^{s(2)})]R [Ф'(X_{n}^{s(1)})] \sim X_{n}^{s(2)} R X_n^{s(1)}$ , где $\sim$ - отношение эквивалентности.

Обозначим через $\{Ф_{\аlpha}\}$ множество всевозможных преобразований, заданных на $\{X^{s}_n\}$ . Индексами $\mu$ , , $\mu R$ , $\mu-R$ , $R-\mu$ отметим подмножества $\{Ф_{\alpha}\}$ , которые сохраняют соответственно меру, отношение, и меру и отношение, только меру, только отношение.

Для доказательства сформулированного утверждения достаточно показать, что каждое из подмножеств $\{Ф_{\alpha} \}_{\mu-R}$ , $\{Ф_{\alpha}\}_{\mu R}$ и $\{Ф_{\alpha}\}_{R-\mu}$ - "не пусто".

Из аддитивного свойства меры следует, что она инвариантна перестановкам векторов $X^{s}_n$ по индексу , которые не нарушают фиксированного разбиения $\{Х_n^s\} \bigcup_{\alpha}\{Х_n^s\}_{\alpha}.$ Поэтому если - отношение порядка типа (5.4), а $\{Ф_{\аlpha}\}_{R-\mu}$ - множество перенумераций индексов $i | \{Ф_{\аlpha}\}_{\mu-R}| = n$ !, то любое $Ф_{\alpha}\in \{Ф_{\alpha}\}_{\mu-R}$ сохраняет меру $\mu$ , но не отношение порядка типа (5.4) (кроме, естественно, тождественной перестановки индексов ).
Из аддитивного свойства меры и второго свойства неравенств следует, что линейные сдвиги задают множество преобразований $\{Ф_{\alpha}\} _{\mu R}$ , сохраняющих и меру и отношение.
Из первого свойства неравенств следует, что даже линейное ( ) масштабирование $(\tilde{x}_i = c * x_{i})$ нарушает меру (5.3), но сохраняет отношение.

Таким образом, показано:

Чтобы настроить МПЭ на заданную функцию, необходимо с помощью управляющих векторов устранить неоднозначность в выполняемом им отображении "вход-выход".
Устойчивость работы МПЭ можно обеспечить, если выполняемые им преобразования сохраняют отношение эквивалентности $(\{l_{s} \}\to\{\{l_{s}\}_j\})$ , задаваемое реализуемой логической или дискретной функцией ( $\{l_{s}\}_{j}\to b_j$ ).
Множества преобразований, сохраняющих меру и сохраняющих отношение, пересекаются только частично, и поэтому методы адаптации систем с непрерывными переменными и/или параметрами нельзя автоматически распространить на дискретные адаптивные системы.
Адаптация МПЭ (его настройка на заданную логическую или дискретную функцию, задающую отображение $F_{\alpha}: \{l_s\}_j \to b_j$ ), предполагает некоторую процедуру перечисления $F_{\alpha}\in \{F_{\alpha}\}$ .

Дальше >>

Авторизоваться

Инструктивный синтез нанометровых вычислительных структур. От задач к вычислительным моделям и структурам

Базовые положения теории многофункциональных логических модулей

5.1. Методы структурно-параметрической адаптации многофункциональных логических модулей

Вопросы и ответы