Для этого необходимо знать размеры изображения.
window.open('img.jpg', '_blank', 'width=100,height=100')
При этом картинка просто откроется в браузере, а по умолчанию у браузеров имеются отступы внутри окна. Поэтому желательно или сделать страничку, в которой у body будут убраны отступы и подключена нужная картинка, или указывать ширину/высоту с запасом. Одной строчкой в любом случае не обойтись, т.к. где-то нужно хранить размеры.