В начале 1939 года конструкторский коллектив, возглавляемый А. С. Яковлевым, закончил работу над новым двухместным самолётом. Вначале его предполагалось использовать как высотный скоростной разведчик. Конструкция самолёта смешанная. Крыло площадью 29,4 м2 неразъемное, деревянное с фанерной обшивкой. Носовая часть фюзеляжа дюралевая, задняя — ферменная, сварная из хромансилевых труб с полотняной обшивкой. Элероны и оперение дюралевые, обшитые полотном.

Хорошие аэродинамические формы при небольшом взлётном весе (всего около 5 т) и два двигателя М-103 по 960 л.с. обеспечили самолёту скорость 567 км/час — больше чем у других двухдвигательных самолётов того времени.

В ходе испытаний опытного экземпляра было принято решение изменить основное назначение самолёта и в серии его строить как скоростной ближний бомбардировщик. В связи с этим конструктор усилил его вооружение. Для защиты от истребителей на самолёте установили дополнительную огневую точку, в фюзеляже оборудовали отсек на 400 кг бомб небольшого калибра. Тяжелые бомбы самолёт нес на наружной подвеске. Самолёт получил название Як-4 (ББ-22).

Дополнительное оборудование и повышение нагрузки, естественно, отразились на лётных качествах самолёта. Его скорость заметно снизилась. Як-4 состоял на вооружении недолго. Уже в первый период Великой Отечественной войны его заменили более мощные пикирующие бомбардировщики Пе-2.