Lines Matching refs:out
102 @out=map("%xmm$_",(2..5));
191 movdqu `$inp_elm_size*$i+2*$ptr_size+8-$inp_elm_size*2`($inp),@out[$i]
201 pxor $zero,@out[0]
203 pxor $zero,@out[1]
205 pxor $zero,@out[2]
207 pxor $zero,@out[3]
209 pxor @inp[0],@out[0]
211 pxor @inp[1],@out[1]
213 pxor @inp[2],@out[2]
214 pxor @inp[3],@out[3]
226 aesenc $rndkey1,@out[0]
229 aesenc $rndkey1,@out[1]
232 aesenc $rndkey1,@out[2]
233 aesenc $rndkey1,@out[3]
240 aesenc $rndkey,@out[0]
241 aesenc $rndkey,@out[1]
242 aesenc $rndkey,@out[2]
245 aesenc $rndkey,@out[3]
251 aesenc $rndkey0,@out[0]
254 aesenc $rndkey0,@out[1]
257 aesenc $rndkey0,@out[2]
258 aesenc $rndkey0,@out[3]
262 aesenc $rndkey1,@out[0]
265 aesenc $rndkey1,@out[1]
268 aesenc $rndkey1,@out[2]
269 aesenc $rndkey1,@out[3]
274 aesenc $rndkey0,@out[0]
275 aesenc $rndkey0,@out[1]
276 aesenc $rndkey0,@out[2]
277 aesenc $rndkey0,@out[3]
282 aesenc $rndkey1,@out[0]
283 aesenc $rndkey1,@out[1]
284 aesenc $rndkey1,@out[2]
285 aesenc $rndkey1,@out[3]
288 aesenc $rndkey0,@out[0]
289 aesenc $rndkey0,@out[1]
290 aesenc $rndkey0,@out[2]
291 aesenc $rndkey0,@out[3]
296 aesenc $rndkey1,@out[0]
297 aesenc $rndkey1,@out[1]
298 aesenc $rndkey1,@out[2]
299 aesenc $rndkey1,@out[3]
302 aesenc $rndkey0,@out[0]
303 aesenc $rndkey0,@out[1]
304 aesenc $rndkey0,@out[2]
305 aesenc $rndkey0,@out[3]
311 aesenc $rndkey1,@out[0]
312 aesenc $rndkey1,@out[1]
313 aesenc $rndkey1,@out[2]
314 aesenc $rndkey1,@out[3]
318 aesenclast $rndkey0,@out[0]
321 aesenclast $rndkey0,@out[1]
324 aesenclast $rndkey0,@out[2]
327 aesenclast $rndkey0,@out[3]
331 movups @out[0],-16(@outptr[0],$offset)
332 pxor @inp[0],@out[0]
333 movups @out[1],-16(@outptr[1],$offset)
334 pxor @inp[1],@out[1]
335 movups @out[2],-16(@outptr[2],$offset)
336 pxor @inp[2],@out[2]
337 movups @out[3],-16(@outptr[3],$offset)
338 pxor @inp[3],@out[3]
347 #pxor @inp[0],@out[0]
348 #pxor @inp[1],@out[1]
350 #movdqu @out[0],`$inp_elm_size*0+2*$ptr_size+8-$inp_elm_size*2`($inp)
351 #pxor @inp[2],@out[2]
352 #movdqu @out[1],`$inp_elm_size*1+2*$ptr_size+8-$inp_elm_size*2`($inp)
353 #pxor @inp[3],@out[3]
354 #movdqu @out[2],`$inp_elm_size*2+2*$ptr_size+8-$inp_elm_size*2`($inp) # won't fix, let caller
355 #movdqu @out[3],`$inp_elm_size*3+2*$ptr_size+8-$inp_elm_size*2`($inp) # figure this out...
485 movdqu (@inptr[0]),@out[0] # load inputs
486 movdqu (@inptr[1]),@out[1]
487 pxor $zero,@out[0]
488 movdqu (@inptr[2]),@out[2]
489 pxor $zero,@out[1]
490 movdqu (@inptr[3]),@out[3]
491 pxor $zero,@out[2]
492 pxor $zero,@out[3]
504 aesdec $rndkey1,@out[0]
507 aesdec $rndkey1,@out[1]
510 aesdec $rndkey1,@out[2]
511 aesdec $rndkey1,@out[3]
518 aesdec $rndkey,@out[0]
519 aesdec $rndkey,@out[1]
520 aesdec $rndkey,@out[2]
523 aesdec $rndkey,@out[3]
529 aesdec $rndkey0,@out[0]
532 aesdec $rndkey0,@out[1]
535 aesdec $rndkey0,@out[2]
536 aesdec $rndkey0,@out[3]
540 aesdec $rndkey1,@out[0]
543 aesdec $rndkey1,@out[1]
546 aesdec $rndkey1,@out[2]
547 aesdec $rndkey1,@out[3]
552 aesdec $rndkey0,@out[0]
553 aesdec $rndkey0,@out[1]
554 aesdec $rndkey0,@out[2]
555 aesdec $rndkey0,@out[3]
560 aesdec $rndkey1,@out[0]
561 aesdec $rndkey1,@out[1]
562 aesdec $rndkey1,@out[2]
563 aesdec $rndkey1,@out[3]
566 aesdec $rndkey0,@out[0]
567 aesdec $rndkey0,@out[1]
568 aesdec $rndkey0,@out[2]
569 aesdec $rndkey0,@out[3]
574 aesdec $rndkey1,@out[0]
575 aesdec $rndkey1,@out[1]
576 aesdec $rndkey1,@out[2]
577 aesdec $rndkey1,@out[3]
580 aesdec $rndkey0,@out[0]
581 aesdec $rndkey0,@out[1]
582 aesdec $rndkey0,@out[2]
583 aesdec $rndkey0,@out[3]
589 aesdec $rndkey1,@out[0]
590 aesdec $rndkey1,@out[1]
591 aesdec $rndkey1,@out[2]
594 aesdec $rndkey1,@out[3]
600 aesdeclast @inp[0],@out[0]
601 aesdeclast @inp[1],@out[1]
604 aesdeclast @inp[2],@out[2]
605 aesdeclast @inp[3],@out[3]
609 movups @out[0],-16(@outptr[0],$offset)
610 movdqu (@inptr[0],$offset),@out[0]
611 movups @out[1],-16(@outptr[1],$offset)
612 movdqu (@inptr[1],$offset),@out[1]
613 pxor $zero,@out[0]
614 movups @out[2],-16(@outptr[2],$offset)
615 movdqu (@inptr[2],$offset),@out[2]
616 pxor $zero,@out[1]
617 movups @out[3],-16(@outptr[3],$offset)
618 movdqu (@inptr[3],$offset),@out[3]
619 pxor $zero,@out[2]
620 pxor $zero,@out[3]
672 my @out=map("%xmm$_",(2..9));
750 vmovdqu `$inp_elm_size*$i+2*$ptr_size+8-$inp_elm_size*4`($inp),@out[$i]
770 vpxor @inp[0],@out[0],@out[0]
772 vpxor @inp[1],@out[1],@out[1]
774 vpxor @inp[2],@out[2],@out[2]
776 vpxor @inp[3],@out[3],@out[3]
778 vpxor @inp[0],@out[4],@out[4]
780 vpxor @inp[1],@out[5],@out[5]
781 vpxor @inp[2],@out[6],@out[6]
782 vpxor @inp[3],@out[7],@out[7]
791 vaesenc $rndkey,@out[0],@out[0]
798 vaesenc $rndkey,@out[1],@out[1]
800 vaesenc $rndkey,@out[2],@out[2]
806 vaesenc $rndkey,@out[3],@out[3]
809 vaesenc $rndkey,@out[4],@out[4]
811 vaesenc $rndkey,@out[5],@out[5]
813 vaesenc $rndkey,@out[6],@out[6]
816 vaesenc $rndkey,@out[7],@out[7]
831 vaesenc $rndkey1,@out[0],@out[0]
832 vaesenc $rndkey1,@out[1],@out[1]
833 vaesenc $rndkey1,@out[2],@out[2]
834 vaesenc $rndkey1,@out[3],@out[3]
835 vaesenc $rndkey1,@out[4],@out[4]
836 vaesenc $rndkey1,@out[5],@out[5]
837 vaesenc $rndkey1,@out[6],@out[6]
838 vaesenc $rndkey1,@out[7],@out[7]
841 vaesenc $rndkey0,@out[0],@out[0]
842 vaesenc $rndkey0,@out[1],@out[1]
843 vaesenc $rndkey0,@out[2],@out[2]
844 vaesenc $rndkey0,@out[3],@out[3]
845 vaesenc $rndkey0,@out[4],@out[4]
846 vaesenc $rndkey0,@out[5],@out[5]
847 vaesenc $rndkey0,@out[6],@out[6]
848 vaesenc $rndkey0,@out[7],@out[7]
852 vaesenc $rndkey1,@out[0],@out[0]
853 vaesenc $rndkey1,@out[1],@out[1]
854 vaesenc $rndkey1,@out[2],@out[2]
855 vaesenc $rndkey1,@out[3],@out[3]
856 vaesenc $rndkey1,@out[4],@out[4]
857 vaesenc $rndkey1,@out[5],@out[5]
858 vaesenc $rndkey1,@out[6],@out[6]
859 vaesenc $rndkey1,@out[7],@out[7]
862 vaesenc $rndkey0,@out[0],@out[0]
863 vaesenc $rndkey0,@out[1],@out[1]
864 vaesenc $rndkey0,@out[2],@out[2]
865 vaesenc $rndkey0,@out[3],@out[3]
866 vaesenc $rndkey0,@out[4],@out[4]
867 vaesenc $rndkey0,@out[5],@out[5]
868 vaesenc $rndkey0,@out[6],@out[6]
869 vaesenc $rndkey0,@out[7],@out[7]
873 vaesenc $rndkey1,@out[0],@out[0]
875 vaesenc $rndkey1,@out[1],@out[1]
876 vaesenc $rndkey1,@out[2],@out[2]
878 vaesenc $rndkey1,@out[3],@out[3]
879 vaesenc $rndkey1,@out[4],@out[4]
882 vaesenc $rndkey1,@out[5],@out[5]
884 vaesenc $rndkey1,@out[6],@out[6]
885 vaesenc $rndkey1,@out[7],@out[7]
888 vaesenclast $rndkey0,@out[0],@out[0]
891 vaesenclast $rndkey0,@out[1],@out[1]
892 vaesenclast $rndkey0,@out[2],@out[2]
894 vaesenclast $rndkey0,@out[3],@out[3]
895 vaesenclast $rndkey0,@out[4],@out[4]
898 vaesenclast $rndkey0,@out[5],@out[5]
899 vaesenclast $rndkey0,@out[6],@out[6]
901 vaesenclast $rndkey0,@out[7],@out[7]
904 vmovups @out[0],-16(@ptr[0]) # write output
906 vpxor 0x00($offload),@out[0],@out[0]
907 vmovups @out[1],-16(@ptr[1])
909 vpxor 0x10($offload),@out[1],@out[1]
910 vmovups @out[2],-16(@ptr[2])
912 vpxor 0x20($offload),@out[2],@out[2]
913 vmovups @out[3],-16(@ptr[3])
915 vpxor 0x30($offload),@out[3],@out[3]
916 vmovups @out[4],-16(@ptr[4])
918 vpxor @inp[0],@out[4],@out[4]
919 vmovups @out[5],-16(@ptr[5])
921 vpxor @inp[1],@out[5],@out[5]
922 vmovups @out[6],-16(@ptr[6])
924 vpxor @inp[2],@out[6],@out[6]
925 vmovups @out[7],-16(@ptr[7])
927 vpxor @inp[3],@out[7],@out[7]
1049 vmovdqu `$inp_elm_size*$i+2*$ptr_size+8-$inp_elm_size*4`($inp),@out[$i]
1054 vmovdqu @out[$i],`192+16*$i`(%rsp) # offload IV
1066 vmovdqu (@ptr[0]),@out[0] # load inputs
1067 vmovdqu (@ptr[1]),@out[1]
1068 vmovdqu (@ptr[2]),@out[2]
1069 vmovdqu (@ptr[3]),@out[3]
1070 vmovdqu (@ptr[4]),@out[4]
1071 vmovdqu (@ptr[5]),@out[5]
1072 vmovdqu (@ptr[6]),@out[6]
1073 vmovdqu (@ptr[7]),@out[7]
1074 vmovdqu @out[0],0x00($offload) # offload inputs
1075 vpxor $zero,@out[0],@out[0] # xor inputs with 0-round
1076 vmovdqu @out[1],0x10($offload)
1077 vpxor $zero,@out[1],@out[1]
1078 vmovdqu @out[2],0x20($offload)
1079 vpxor $zero,@out[2],@out[2]
1080 vmovdqu @out[3],0x30($offload)
1081 vpxor $zero,@out[3],@out[3]
1082 vmovdqu @out[4],0x40($offload)
1083 vpxor $zero,@out[4],@out[4]
1084 vmovdqu @out[5],0x50($offload)
1085 vpxor $zero,@out[5],@out[5]
1086 vmovdqu @out[6],0x60($offload)
1087 vpxor $zero,@out[6],@out[6]
1088 vmovdqu @out[7],0x70($offload)
1089 vpxor $zero,@out[7],@out[7]
1100 vaesdec $rndkey,@out[0],@out[0]
1107 vaesdec $rndkey,@out[1],@out[1]
1109 vaesdec $rndkey,@out[2],@out[2]
1115 vaesdec $rndkey,@out[3],@out[3]
1118 vaesdec $rndkey,@out[4],@out[4]
1120 vaesdec $rndkey,@out[5],@out[5]
1122 vaesdec $rndkey,@out[6],@out[6]
1125 vaesdec $rndkey,@out[7],@out[7]
1140 vaesdec $rndkey1,@out[0],@out[0]
1141 vaesdec $rndkey1,@out[1],@out[1]
1142 vaesdec $rndkey1,@out[2],@out[2]
1143 vaesdec $rndkey1,@out[3],@out[3]
1144 vaesdec $rndkey1,@out[4],@out[4]
1145 vaesdec $rndkey1,@out[5],@out[5]
1146 vaesdec $rndkey1,@out[6],@out[6]
1147 vaesdec $rndkey1,@out[7],@out[7]
1150 vaesdec $rndkey0,@out[0],@out[0]
1151 vaesdec $rndkey0,@out[1],@out[1]
1152 vaesdec $rndkey0,@out[2],@out[2]
1153 vaesdec $rndkey0,@out[3],@out[3]
1154 vaesdec $rndkey0,@out[4],@out[4]
1155 vaesdec $rndkey0,@out[5],@out[5]
1156 vaesdec $rndkey0,@out[6],@out[6]
1157 vaesdec $rndkey0,@out[7],@out[7]
1161 vaesdec $rndkey1,@out[0],@out[0]
1162 vaesdec $rndkey1,@out[1],@out[1]
1163 vaesdec $rndkey1,@out[2],@out[2]
1164 vaesdec $rndkey1,@out[3],@out[3]
1165 vaesdec $rndkey1,@out[4],@out[4]
1166 vaesdec $rndkey1,@out[5],@out[5]
1167 vaesdec $rndkey1,@out[6],@out[6]
1168 vaesdec $rndkey1,@out[7],@out[7]
1171 vaesdec $rndkey0,@out[0],@out[0]
1172 vaesdec $rndkey0,@out[1],@out[1]
1173 vaesdec $rndkey0,@out[2],@out[2]
1174 vaesdec $rndkey0,@out[3],@out[3]
1175 vaesdec $rndkey0,@out[4],@out[4]
1176 vaesdec $rndkey0,@out[5],@out[5]
1177 vaesdec $rndkey0,@out[6],@out[6]
1178 vaesdec $rndkey0,@out[7],@out[7]
1182 vaesdec $rndkey1,@out[0],@out[0]
1184 vaesdec $rndkey1,@out[1],@out[1]
1185 vaesdec $rndkey1,@out[2],@out[2]
1187 vaesdec $rndkey1,@out[3],@out[3]
1188 vaesdec $rndkey1,@out[4],@out[4]
1191 vaesdec $rndkey1,@out[5],@out[5]
1193 vaesdec $rndkey1,@out[6],@out[6]
1194 vaesdec $rndkey1,@out[7],@out[7]
1197 vaesdeclast $rndkey0,@out[0],@out[0]
1200 vaesdeclast $rndkey0,@out[1],@out[1]
1201 vpxor 0x00($offload),@out[0],@out[0] # xor with IV
1202 vaesdeclast $rndkey0,@out[2],@out[2]
1203 vpxor 0x10($offload),@out[1],@out[1]
1205 vaesdeclast $rndkey0,@out[3],@out[3]
1206 vpxor 0x20($offload),@out[2],@out[2]
1207 vaesdeclast $rndkey0,@out[4],@out[4]
1208 vpxor 0x30($offload),@out[3],@out[3]
1211 vaesdeclast $rndkey0,@out[5],@out[5]
1212 vpxor 0x40($offload),@out[4],@out[4]
1213 vaesdeclast $rndkey0,@out[6],@out[6]
1214 vpxor 0x50($offload),@out[5],@out[5]
1216 vaesdeclast $rndkey0,@out[7],@out[7]
1217 vpxor 0x60($offload),@out[6],@out[6]
1220 vmovups @out[0],-16(@ptr[0]) # write output
1222 vmovdqu 128+0(%rsp),@out[0]
1223 vpxor 0x70($offload),@out[7],@out[7]
1224 vmovups @out[1],-16(@ptr[1])
1226 vmovdqu @out[0],0x00($offload)
1227 vpxor $zero,@out[0],@out[0]
1228 vmovdqu 128+16(%rsp),@out[1]
1229 vmovups @out[2],-16(@ptr[2])
1231 vmovdqu @out[1],0x10($offload)
1232 vpxor $zero,@out[1],@out[1]
1233 vmovdqu 128+32(%rsp),@out[2]
1234 vmovups @out[3],-16(@ptr[3])
1236 vmovdqu @out[2],0x20($offload)
1237 vpxor $zero,@out[2],@out[2]
1238 vmovdqu 128+48(%rsp),@out[3]
1239 vmovups @out[4],-16(@ptr[4])
1241 vmovdqu @out[3],0x30($offload)
1242 vpxor $zero,@out[3],@out[3]
1244 vpxor @inp[0],$zero,@out[4]
1245 vmovups @out[5],-16(@ptr[5])
1248 vpxor @inp[1],$zero,@out[5]
1249 vmovups @out[6],-16(@ptr[6])
1252 vpxor @inp[2],$zero,@out[6]
1253 vmovups @out[7],-16(@ptr[7])
1256 vpxor @inp[3],$zero,@out[7]
