W Sony FE 70-200 mm f/2,8 GM OSS II wykorzystano wiele rozwiązań konstrukcyjnych obecnych w superteleobiektywach tej firmy, a mianowicie Sony FE 400 mm f/2,8 GM oraz Sony FE 600 mm f/4 GM OSS co zaowocowało znaczną redukcją wagi nowej wersji obiektywu, w stosunku do pierwowzoru, aż o 29%, czyli o 435 g. Pomimo redukcji masy, dzięki zastosowaniu w układzie optycznym elementów XA i ED, według producenta, udało się zachować wysoką jakość rejestrowanego obrazu typową dla wspomnianych wcześniej superteleobiektywów.

Układ optyczny Sony FE 70-200 mm f/2,8 GM OSS II składa się z 17 elementów rozmieszczonych w 14 grupach. Wśród elementów układu, oprócz wspomnianych wcześniej elementów XA i 2 typu ED, obiektyw ma również m.in.: minimalizujący aberrację sferyczną element asferyczny, typu ED Asferyczny do niwelowania aberracji chromatycznej i 2 elementy Super ED. Jest to obiektyw typu IF, czyli z systemem wewnętrznego ogniskowania zapobiegającym m.in. obrotowi przedniej soczewki przy ustawianiu ostrości oraz o zachowującym stałą długość obiektywu podczas ogniskowania.

Według zapewnień producenta wydajność systemu AF jest ok. 4 razy większa niż w przypadku prekursora, czyli Sony FE 70-200 mm f/2,8 GM OSS.

Poprawiono też o ok. 30%, w porównaniu do poprzednika, skuteczność śledzenia systemu AF.

Szybkość działania systemu AF poprawiono stosując nowe silniki liniowe o ekstremalnej dynamice działania – XD Linear Motors.