Izraz na lijevoj strani možemo faktorizirati na sljedeći način
$$17 = 2x^2+5xy-3y^2 = 2x^2-xy+6xy-3y^2 = x(2x-y)+3y(2x-y) = (2x-y)(x+3y).$$
Promatranjem djelitelja broja $17$ dolazimo do $4$ slučaja
\begin{enumerate}
\item $2x-y = 1, \, x+3y = 17 \ \Rightarrow \ y = 2x-1 \ \Rightarrow \ x+3(2x-1)=17 \ \Rightarrow \ x = \frac{20}{7}$
\item $2x-y = 17, \, x+3y = 1 \ \Rightarrow \ y = 2x-17 \ \Rightarrow \ x+3(2x-17)=1 \ \Rightarrow \ x = \frac{52}{7}$
\item $2x-y = -1, \, x+3y = -17 \ \Rightarrow \ y = 2x+1 \ \Rightarrow \ x+3(2x+1)=-17 \ \Rightarrow \ x = -\frac{20}{7}$
\item $2x-y = -17, \, x+3y = -1 \ \Rightarrow \ y = 2x+17 \ \Rightarrow \ x+3(2x+17)= -1 \ \Rightarrow \ x = -\frac{52}{7}$
\end{enumerate}
Vidimo da nijedan slučaj ne vodi do cjelobrojnih rješenja pa ova jednadžba nema takvih rješenja.