Институциональная структура рыночной системы включает такие институты, как рынок и фирма. Фирма нуждается в объективном контроле со стороны рынка. Но и рынок нуждается в фирмах, так как только организация производства в виде фирм может дать необходимый результат для развития рыночной экономики. Существование рынка и фирмы есть сосуществование в единой рыночной экономике двух типов отношений: традиционно рыночных и альтернативных им внутрифирменных отношений, которые Р. Коуз трактует как отношения сознательного регулирования производства, отношения координации, для эффективности которых важное значение имеют нерыночные методы и формы (приказы, личное доверие, внутрифирменные правила, традиции, моральные факторы). Причем развитие этих нерыночных отношений Р. Коуз выводит из законов рыночной экономики: соотношение рыночных и нерыночных связей определяется движением (сокращением или увеличением) рыночных трансакционных издержек. [4. с. 99]
Альтернативный технологическому взгляд на проблему поведения фирм был разработан в рамках институциональной экономической теории. Институциональная традиция изучения вопросов, связанных с процессами функционирования фирмы, берет свое начало с классической статьи Р. Коуза «Природа фирмы» (1937 г.). Взгляды Р. Коуза в дальнейшем получили свое развитие в работах таких широко известных ученых, как А. Алчиян, X. Демсец, Д. Норт, Г. Саймон, О. Уильям-сон, К. Эрроу и др.
В соответствии с институциональным подходом, центральной проблемой изучения фирмы становятся не условия максимизации прибыли, а объяснение феномена возникновения фирмы, закономерностей ее дальнейшего развития и, в конечном итоге, исчезновения. Помимо категории института, для объяснения существования и внутренней структуры фирмы в этой теории используются такие ключевые понятия, как трансакционные издержки, оппортунистическое поведение, асимметричность информации, специфичность ресурсов и контракт.
В отличие от неоклассической концепции, перед нами мир с ненулевыми трансакционными издержками, минимизировать которые можно только при условии четкого распределения прав собственности каждого экономического субъекта. Следовательно, вступая в отношения с другими лицами в процессе осуществления обмена, нам, как экономическим агентам, просто нужно предусмотреть защиту всех наших интересов путем заключения соответствующего контракта (договора). На первый взгляд, мы все предусмотрели и не нуждаемся в существовании такого института, как фирма.
Каждая обменная сделка заключается в нашей модели экономики только после проведения переговоров о порядке передачи блага, его цене и т. д., т. е. все наши хозяйственные субъекты, производя блага, договариваются в индивидуальном порядке о поставке сырья, оборудования и продаже конечной продукции. Но при таких условиях большая часть времени будет потрачена именно на переговоры.
Создавая фирмы, индивиды стремятся найти альтернативные способы координации своей деятельности, сокращающие величину издержек. Как же это происходит? Дело в том, что фирма представляет собой субъект рынка, внутреннее построение которой иерархично. Р. Коуз в своем определении фирмы отмечал: «Фирма...есть система отношений, когда направление ресурсов начинает зависеть от предпринимателя» [6. с. 38].
Более пяти десятилетий тому назад, когда в экономической теории рыночный механизм традиционно считался главным средством обеспечения хозяйственной координации, Р. Коуз показал, что именно фирмы дополняют рынок, предложив рассматривать фирму и рынок как альтернативные способы экономической организации. Следовательно, выбор при принятии предпринимателем административного решения состоит в том, чтобы определить, каким образом дешевле осуществлять трансакции (сделки): путем создания фирмы или посредством рыночного механизма [5. с. 205].
Фирма не уничтожает трансакционные издержки вообще, иначе все общественное производство было бы организовано как огромная фирма в масштабе национального хозяйства (предмет утопических мечтаний сторонников социалистической идеи). Внутри фирмы существуют трансакционные издержки административного (бюрократического) управления, издержки измерения выполняемых работником функций, издержки на защиту от оппортунистического поведения работников фирмы после заключения с ними трудового соглашения и т. д. Асимметричность информации не позволяет предпринимателю абсолютно точно узнать качество услуг нанимаемого работника: ведь нанимающийся на работу субъект знает о своих деловых качествах значительно больше (исключим возможность самообольщения), чем беседующий с ним при первой встрече работодатель. Неисполнительность, некомпетентность и просто дурной характер проявятся позже, уже после подписания контракта. Выявление и наказание во всех указанных случаях также связано с внутрифирменными трансакционными издержками [5. с. 206].