From e1a532cb4f23df7cb77d69a8a4a6e0a069487eaf Mon Sep 17 00:00:00 2001 From: Dan Gohman Date: Mon, 27 Apr 2009 20:35:32 +0000 Subject: [PATCH] Permit ChangeCompareStride to rewrite a comparison when the factor between the comparison's iv stride and the candidate stride is exactly -1. llvm-svn: 70244 --- lib/Transforms/Scalar/LoopStrengthReduce.cpp | 4 +- test/CodeGen/X86/change-compare-stride-0.ll | 77 ++++++++++++++++++ test/CodeGen/X86/change-compare-stride-1.ll | 86 ++++++++++++++++++++ 3 files changed, 166 insertions(+), 1 deletion(-) create mode 100644 test/CodeGen/X86/change-compare-stride-0.ll create mode 100644 test/CodeGen/X86/change-compare-stride-1.ll diff --git a/lib/Transforms/Scalar/LoopStrengthReduce.cpp b/lib/Transforms/Scalar/LoopStrengthReduce.cpp index c436cec26ed..a6795a72ef9 100644 --- a/lib/Transforms/Scalar/LoopStrengthReduce.cpp +++ b/lib/Transforms/Scalar/LoopStrengthReduce.cpp @@ -2028,7 +2028,9 @@ ICmpInst *LoopStrengthReduce::ChangeCompareStride(Loop *L, ICmpInst *Cond, if (!isa(SI->first)) continue; int64_t SSInt = cast(SI->first)->getValue()->getSExtValue(); - if (abs(SSInt) <= abs(CmpSSInt) || (SSInt % CmpSSInt) != 0) + if (SSInt == CmpSSInt || + abs(SSInt) < abs(CmpSSInt) || + (SSInt % CmpSSInt) != 0) continue; Scale = SSInt / CmpSSInt; diff --git a/test/CodeGen/X86/change-compare-stride-0.ll b/test/CodeGen/X86/change-compare-stride-0.ll new file mode 100644 index 00000000000..87194d61c37 --- /dev/null +++ b/test/CodeGen/X86/change-compare-stride-0.ll @@ -0,0 +1,77 @@ +; RUN: llvm-as < %s | llc -march=x86 > %t +; RUN: grep {cmpl \$4294966818,} %t +; RUN: not grep inc %t +; RUN: not grep {leal 1(} %t +; RUN: not grep {leal -1(} %t +; RUN: grep dec %t | count 1 + +define void @borf(i8* nocapture %in, i8* nocapture %out) nounwind { +bb4.thread: + br label %bb2.outer + +bb2.outer: ; preds = %bb4, %bb4.thread + %indvar18 = phi i32 [ 0, %bb4.thread ], [ %indvar.next28, %bb4 ] ; [#uses=3] + %tmp34 = mul i32 %indvar18, 65535 ; [#uses=1] + %i.0.reg2mem.0.ph = add i32 %tmp34, 639 ; [#uses=1] + %0 = and i32 %i.0.reg2mem.0.ph, 65535 ; [#uses=1] + %1 = mul i32 %0, 480 ; [#uses=1] + %tmp20 = mul i32 %indvar18, -478 ; [#uses=1] + br label %bb2 + +bb2: ; preds = %bb2, %bb2.outer + %indvar = phi i32 [ 0, %bb2.outer ], [ %indvar.next, %bb2 ] ; [#uses=3] + %ctg2 = getelementptr i8* %out, i32 %tmp20 ; [#uses=1] + %tmp21 = ptrtoint i8* %ctg2 to i32 ; [#uses=1] + %tmp23 = sub i32 %tmp21, %indvar ; [#uses=1] + %out_addr.0.reg2mem.0 = inttoptr i32 %tmp23 to i8* ; [#uses=1] + %tmp25 = mul i32 %indvar, 65535 ; [#uses=1] + %j.0.reg2mem.0 = add i32 %tmp25, 479 ; [#uses=1] + %2 = and i32 %j.0.reg2mem.0, 65535 ; [#uses=1] + %3 = add i32 %1, %2 ; [#uses=9] + %4 = add i32 %3, -481 ; [#uses=1] + %5 = getelementptr i8* %in, i32 %4 ; [#uses=1] + %6 = load i8* %5, align 1 ; [#uses=1] + %7 = add i32 %3, -480 ; [#uses=1] + %8 = getelementptr i8* %in, i32 %7 ; [#uses=1] + %9 = load i8* %8, align 1 ; [#uses=1] + %10 = add i32 %3, -479 ; [#uses=1] + %11 = getelementptr i8* %in, i32 %10 ; [#uses=1] + %12 = load i8* %11, align 1 ; [#uses=1] + %13 = add i32 %3, -1 ; [#uses=1] + %14 = getelementptr i8* %in, i32 %13 ; [#uses=1] + %15 = load i8* %14, align 1 ; [#uses=1] + %16 = getelementptr i8* %in, i32 %3 ; [#uses=1] + %17 = load i8* %16, align 1 ; [#uses=1] + %18 = add i32 %3, 1 ; [#uses=1] + %19 = getelementptr i8* %in, i32 %18 ; [#uses=1] + %20 = load i8* %19, align 1 ; [#uses=1] + %21 = add i32 %3, 481 ; [#uses=1] + %22 = getelementptr i8* %in, i32 %21 ; [#uses=1] + %23 = load i8* %22, align 1 ; [#uses=1] + %24 = add i32 %3, 480 ; [#uses=1] + %25 = getelementptr i8* %in, i32 %24 ; [#uses=1] + %26 = load i8* %25, align 1 ; [#uses=1] + %27 = add i32 %3, 479 ; [#uses=1] + %28 = getelementptr i8* %in, i32 %27 ; [#uses=1] + %29 = load i8* %28, align 1 ; [#uses=1] + %30 = add i8 %9, %6 ; [#uses=1] + %31 = add i8 %30, %12 ; [#uses=1] + %32 = add i8 %31, %15 ; [#uses=1] + %33 = add i8 %32, %17 ; [#uses=1] + %34 = add i8 %33, %20 ; [#uses=1] + %35 = add i8 %34, %23 ; [#uses=1] + %36 = add i8 %35, %26 ; [#uses=1] + %37 = add i8 %36, %29 ; [#uses=1] + store i8 %37, i8* %out_addr.0.reg2mem.0, align 1 + %indvar.next = add i32 %indvar, 1 ; [#uses=2] + %exitcond = icmp eq i32 %indvar.next, 478 ; [#uses=1] + br i1 %exitcond, label %bb4, label %bb2 + +bb4: ; preds = %bb2 + %indvar.next28 = add i32 %indvar18, 1 ; [#uses=2] + %exitcond29 = icmp eq i32 %indvar.next28, 638 ; [#uses=1] + br i1 %exitcond29, label %return, label %bb2.outer + +return: ; preds = %bb4 + ret void +} diff --git a/test/CodeGen/X86/change-compare-stride-1.ll b/test/CodeGen/X86/change-compare-stride-1.ll new file mode 100644 index 00000000000..49b691f4a75 --- /dev/null +++ b/test/CodeGen/X86/change-compare-stride-1.ll @@ -0,0 +1,86 @@ +; RUN: llvm-as < %s | llc -march=x86-64 > %t +; RUN: grep {cmpq \$-478,} %t +; RUN: not grep inc %t +; RUN: not grep {leal 1(} %t +; RUN: not grep {leal -1(} %t +; RUN: grep dec %t | count 1 + +define void @borf(i8* nocapture %in, i8* nocapture %out) nounwind { +bb4.thread: + br label %bb2.outer + +bb2.outer: ; preds = %bb4, %bb4.thread + %indvar19 = phi i64 [ 0, %bb4.thread ], [ %indvar.next29, %bb4 ] ; [#uses=3] + %indvar31 = trunc i64 %indvar19 to i16 ; [#uses=1] + %i.0.reg2mem.0.ph = sub i16 639, %indvar31 ; [#uses=1] + %0 = zext i16 %i.0.reg2mem.0.ph to i32 ; [#uses=1] + %1 = mul i32 %0, 480 ; [#uses=1] + %tmp21 = mul i64 %indvar19, -478 ; [#uses=1] + br label %bb2 + +bb2: ; preds = %bb2, %bb2.outer + %indvar = phi i64 [ 0, %bb2.outer ], [ %indvar.next, %bb2 ] ; [#uses=3] + %indvar16 = trunc i64 %indvar to i16 ; [#uses=1] + %ctg2 = getelementptr i8* %out, i64 %tmp21 ; [#uses=1] + %tmp22 = ptrtoint i8* %ctg2 to i64 ; [#uses=1] + %tmp24 = sub i64 %tmp22, %indvar ; [#uses=1] + %out_addr.0.reg2mem.0 = inttoptr i64 %tmp24 to i8* ; [#uses=1] + %j.0.reg2mem.0 = sub i16 479, %indvar16 ; [#uses=1] + %2 = zext i16 %j.0.reg2mem.0 to i32 ; [#uses=1] + %3 = add i32 %1, %2 ; [#uses=9] + %4 = add i32 %3, -481 ; [#uses=1] + %5 = zext i32 %4 to i64 ; [#uses=1] + %6 = getelementptr i8* %in, i64 %5 ; [#uses=1] + %7 = load i8* %6, align 1 ; [#uses=1] + %8 = add i32 %3, -480 ; [#uses=1] + %9 = zext i32 %8 to i64 ; [#uses=1] + %10 = getelementptr i8* %in, i64 %9 ; [#uses=1] + %11 = load i8* %10, align 1 ; [#uses=1] + %12 = add i32 %3, -479 ; [#uses=1] + %13 = zext i32 %12 to i64 ; [#uses=1] + %14 = getelementptr i8* %in, i64 %13 ; [#uses=1] + %15 = load i8* %14, align 1 ; [#uses=1] + %16 = add i32 %3, -1 ; [#uses=1] + %17 = zext i32 %16 to i64 ; [#uses=1] + %18 = getelementptr i8* %in, i64 %17 ; [#uses=1] + %19 = load i8* %18, align 1 ; [#uses=1] + %20 = zext i32 %3 to i64 ; [#uses=1] + %21 = getelementptr i8* %in, i64 %20 ; [#uses=1] + %22 = load i8* %21, align 1 ; [#uses=1] + %23 = add i32 %3, 1 ; [#uses=1] + %24 = zext i32 %23 to i64 ; [#uses=1] + %25 = getelementptr i8* %in, i64 %24 ; [#uses=1] + %26 = load i8* %25, align 1 ; [#uses=1] + %27 = add i32 %3, 481 ; [#uses=1] + %28 = zext i32 %27 to i64 ; [#uses=1] + %29 = getelementptr i8* %in, i64 %28 ; [#uses=1] + %30 = load i8* %29, align 1 ; [#uses=1] + %31 = add i32 %3, 480 ; [#uses=1] + %32 = zext i32 %31 to i64 ; [#uses=1] + %33 = getelementptr i8* %in, i64 %32 ; [#uses=1] + %34 = load i8* %33, align 1 ; [#uses=1] + %35 = add i32 %3, 479 ; [#uses=1] + %36 = zext i32 %35 to i64 ; [#uses=1] + %37 = getelementptr i8* %in, i64 %36 ; [#uses=1] + %38 = load i8* %37, align 1 ; [#uses=1] + %39 = add i8 %11, %7 ; [#uses=1] + %40 = add i8 %39, %15 ; [#uses=1] + %41 = add i8 %40, %19 ; [#uses=1] + %42 = add i8 %41, %22 ; [#uses=1] + %43 = add i8 %42, %26 ; [#uses=1] + %44 = add i8 %43, %30 ; [#uses=1] + %45 = add i8 %44, %34 ; [#uses=1] + %46 = add i8 %45, %38 ; [#uses=1] + store i8 %46, i8* %out_addr.0.reg2mem.0, align 1 + %indvar.next = add i64 %indvar, 1 ; [#uses=2] + %exitcond = icmp eq i64 %indvar.next, 478 ; [#uses=1] + br i1 %exitcond, label %bb4, label %bb2 + +bb4: ; preds = %bb2 + %indvar.next29 = add i64 %indvar19, 1 ; [#uses=2] + %exitcond30 = icmp eq i64 %indvar.next29, 638 ; [#uses=1] + br i1 %exitcond30, label %return, label %bb2.outer + +return: ; preds = %bb4 + ret void +}