Критика положения неоклассической теории о том, что обмен происходит без издержек, послужила базисом для введения в экономический анализ нового понятия - транзакционные издержки (transaction cost).

Понятие трансакционных издержек было введено Р. Коузом в 30­е годы в его статье «Природа фирмы». Оно было использовано для объяснения существования таких противоположных рынку иерархических структур, как фирма.

Р. Коуз связывал образование этих «островков сознательности» с их относительными преимуществами в плане экономии на трансакционных издержках. Специфику функционирования фирмы он усматривал в подавлении ценового механизма и замене его системой внутреннего административного контроля.

В рамках современной экономической теории трансакционные издержки получили множество трактовок, иногда диаметрально противоположных.

Так К. Эрроу определяет трансакционные издержки как издержки эксплуатации экономической системы. Эрроу сравнивал действие трансакционных издержек в экономике с действием трения в физике. На основании подобных предположений делаются выводы о том, что чем ближе экономика к модели общего равновесия Вальраса, тем ниже в ней уровень трансакционных издержек, и наоборот.

В трактовке Д. Норта Трансакционные издержки «состоят из издержек оценки полезных свойств объекта обмена и издержек обеспечения прав и принуждения к их соблюдению». Эти издержки служат источником социальных, политических и экономических институтов.

В теориях некоторых экономистов трансакционные издержки существуют не только в рыночной экономике (Коуз, Эрроу, Норт), но и в альтернативных способах экономической организации и в частности в плановой экономике (С. Чанг, А. Алчиан, Демсец). Так согласно Чангу максимальные трансакционные издержки наблюдаются в плановой экономике, что в конечном счете определяет ее неэффективность.